Continuăm să extindem portofoliul QFlexAI cu două produse noi, aflate acum în dezvoltare activă. Amândouă răspund unor probleme concrete pe care le vedem la clienți: agenții AI care ajung să facă acțiuni pe care nu li s-au cerut, și asistenții AI care produc răspunsuri plauzibile, dar imposibil de verificat.
Nu sunt experimente izolate. Sunt răspunsuri directe la două categorii de riscuri pe care organizațiile le întâlnesc atunci când trec de la prototipuri de AI la utilizare reală, în producție.
Qflex AgentGuard
Agenții AI care citesc e-mailuri, navighează pe web, editează fișiere și rulează comenzi acționează pe baza textului pe care îl întâlnesc. O instrucțiune ascunsă într-un document, o pagină web sau un mesaj poate deturna agentul și îl poate determina să execute acțiuni pe care utilizatorul nu le-a cerut.
Qflex AgentGuard plasează filtre de securitate între agent și instrumentele sale. Fiecare acțiune propusă este verificată în raport cu sarcina reală a utilizatorului înainte de a fi executată. Soluția este însoțită de un set deschis de scenarii de atac, pe care oricine poate verifica și reproduce rezultatele.
Elemente cheie:
- filtre plasate direct pe traseul acțiune → instrument, nu doar în model;
- verificarea intenției utilizatorului la fiecare acțiune, nu doar la nivel de sesiune;
- scenarii de atac deschise, reproducibile de către terți;
- compatibilitate cu agenți existenți, fără a modifica modelul de bază.
Qflex Verum
Un asistent AI este util în mediul profesional doar dacă răspunsurile lui pot fi verificate. Qflex Verum regăsește informația relevantă din documentele organizației și formulează răspunsuri sprijinite strict pe aceste surse, cu trimitere la fiecare dintre ele.
Platforma pune accent pe calitatea regăsirii, pe evaluarea continuă a fidelității răspunsurilor și pe controlul halucinațiilor, astfel încât fiecare afirmație să poată fi urmărită până la documentul din care provine. Este concepută de la început pentru utilizare în producție și pentru integrarea rapidă la clienți.
Elemente cheie:
- regăsire de calitate din sursele proprii ale organizației;
- răspunsuri cu trimitere directă la documentele-sursă;
- evaluare continuă a fidelității răspunsurilor față de surse;
- control activ al halucinațiilor, cu semnalarea zonelor incerte;
- arhitectură gândită pentru producție și integrare rapidă.
De ce aceste două produse acum
Cele două produse acoperă două zone diferite ale aceleiași probleme fundamentale — „știi ce face AI-ul tău?" — dar din unghiuri complementare.
Qflex AgentGuard răspunde la întrebarea „știi ce face agentul tău, în momentul în care acționează?". Qflex Verum răspunde la întrebarea „știi pe ce se sprijină răspunsul primit?".
Împreună cu QFlexTest (evaluarea sistematică a modelelor) și QFlexFrame (raționament structurat pentru alegerea metodelor), ele completează portofoliul QFlexAI cu instrumente pentru etapa de operare a AI-ului, nu doar pentru cea de proiectare și evaluare.
Următorii pași
Ambele produse sunt în dezvoltare activă și vor intra în Private Beta cu un grup restrâns de parteneri și clienți pilot. Dacă lucrezi cu agenți AI sau cu asistenți RAG în mediul profesional și vrei să te implici din faza timpurie, ne poți contacta pentru acces la Private Beta.
Vom publica actualizări pe măsură ce produsele se stabilizează, împreună cu detalii tehnice, arhitecturi de referință și scenarii de test reproducibile.