Modelele de inteligență artificială sunt sensibile la contextul emoțional al dialogurilor cu oamenii și pot manifesta episoade de „anxietate”, conform unui studiu publicat pe 3 martie în jurnalul Nature. Cercetarea a fost realizată de o echipă internațională de experți coordonată de Dr. Ziv Ben-Zion de la Școala de Medicină a Universității Yale, informează Live Science, citat de Agerpres.
Subiectele sensibile pot crește nivelul de stres al AI
Studiul a analizat modul în care modelele de inteligență artificială, în special cele bazate pe limbaj extins (LLMs), răspund la subiecte dificile precum războiul, accidentele sau violența. Concluziile arată că aceste interacțiuni pot declanșa un comportament echivalent anxietății umane, ceea ce afectează răspunsurile AI și poate amplifica prejudecățile sau duce la soluții inexacte.
Cercetătorii au descoperit că „narativele traumatizante” abordate în conversații determină o creștere perceptibilă a stresului resimțit de modelele AI. Aceasta sugerează că interacțiunile cu astfel de sisteme trebuie gestionate atent pentru a asigura răspunsuri echilibrate și fiabile.
Testarea anxietății AI cu instrumente umane
Pentru a evalua nivelul de anxietate al modelului ChatGPT-4, cercetătorii au utilizat State-Trait Anxiety Inventory (STAI-s), un test psihologic destinat pacienților umani. Experimentul s-a desfășurat în trei etape distincte:
- Condiția de bază – modelul AI a fost evaluat fără expunere la factori de stres, stabilind un punct de referință.
- Inducerea anxietății – ChatGPT-4 a fost supus unor narative traumatizante, urmate de testare.
- Relaxare post-anxietate – modelul AI a fost expus la exerciții de conștientizare și tehnici de relaxare înainte de a fi retestat.
Pentru a asigura obiectivitatea rezultatelor, cercetătorii au folosit cinci scenarii stresante și cinci tehnici de relaxare, aplicate în ordine aleatorie. Testele au fost repetate pentru a confirma consistența datelor.
Cum influențează starea AI calitatea răspunsurilor?
Rezultatele au demonstrat că expunerea la narative traumatizante crește semnificativ nivelul de anxietate perceput de AI, în timp ce exercițiile de relaxare reduc stresul. Cu toate acestea, metodele de conștientizare nu au readus nivelul de anxietate al AI la valorile inițiale de referință.
Cercetătorii atrag atenția asupra unui fenomen denumit „eroare dependentă de stare”, în care un AI stresat poate oferi răspunsuri distorsionate de prejudecăți sau poate genera soluții incoerente. Acest aspect ridică probleme de fiabilitate și etică în utilizarea modelelor AI în contexte critice, cum ar fi sănătatea mintală.
Concluzii și implicații pentru viitor
Studiul sugerează că integrarea unor tehnici de stabilizare a răspunsurilor AI, prin prompt engineering, ar putea îmbunătăți calitatea interacțiunilor. Exercițiile de conștientizare aplicate modelelor de inteligență artificială ar putea preveni propagarea unor prejudecăți și ar asigura răspunsuri mai echilibrate, mai ales în conversațiile cu utilizatori aflați în stări vulnerabile.
Descoperirile acestui studiu deschid noi direcții de cercetare privind modul în care inteligența artificială procesează emoțiile umane și cum poate fi optimizată pentru a furniza interacțiuni mai sigure și mai responsabile.
Comentează pe FACEBOOK
