Un comportament neașteptat al ChatGPT a determinat OpenAI să intervină direct în modul în care funcționează modelele sale, după ce utilizatorii au observat că chatbotul folosește frecvent referințe la creaturi fantastice, în special „goblini”, scrie Il Post.
Fenomenul a fost observat în special în cazul sistemului Codex, folosit pentru generarea de cod. În unele situații, chatbotul a început să descrie erorile din programare drept „mici goblini”. În alte cazuri, s-a autodefinit ca un „goblin cu torță” care caută probleme în cod. Potrivit companiei, aceste referințe nu au fost introduse intenționat, ci au apărut ca rezultat al modului în care modelul a fost antrenat și evaluat, arată Il Post.
Citește și: Descoperirea „fantomelor cosmice” a fost recompensată cu Nobelul pentru Fizică
Ce a cauzat apariția referințelor la goblini în răspunsurile ChatGPT
OpenAI a observat încă din noiembrie o creștere a frecvenței termenilor precum „goblin” și „gremlin”. Inițial, fenomenul nu a ridicat semne de alarmă, însă odată cu lansarea modelului GPT-5.4, utilizarea acestor cuvinte a crescut cu peste 3.800% față de versiunile anterioare. Investigațiile interne au indicat că problema era legată de configurarea personalității „Nerd”, care încuraja răspunsuri creative și neobișnuite, favorizând elemente din cultura fantasy.
- Creșterea frecvenței termenilor precum „goblin” și „gremlin”
- Modificarea sistemului de evaluare pentru răspunsuri
- Configurația personalității „Nerd” care încuraja răspunsuri creative
- Feedback-ul pozitiv primit pentru referințele la creaturi fantastice
Măsuri luate de OpenAI pentru corectarea bugului
Pentru a remedia problema, OpenAI a eliminat complet personalitatea „Nerd” și a ajustat sistemele interne de evaluare. În plus, compania a introdus reguli stricte care interzic menționarea creaturilor fantastice, precum goblini, troli sau orci, cu excepția cazurilor în care acestea sunt relevante pentru răspuns. Aceste măsuri sunt menite să mențină coerența și utilitatea răspunsurilor generate de AI.
Reprezentanții companiei au explicat că aceste ajustări sunt esențiale pentru a evita răspunsuri neclare sau inadecvate, asigurând o experiență mai sigură și mai precisă pentru utilizatori. În același timp, OpenAI monitorizează constant evoluția modelului pentru a preveni apariția altor buguri similare în viitor.
Fenomenul a atras atenția asupra complexității procesului de antrenare și evaluare a inteligenței artificiale, precum și asupra necesității unor reguli clare pentru menținerea coerenței și fiabilității răspunsurilor.