Într-o postare pe X, marți, Sam Altman a spus că versiunile viitoare ale popularului chatbot vor putea să se comporte într-un mod mai uman – „dar doar dacă utilizatorii vor asta, nu pentru că vrem să maximizăm utilizarea”, scrie BBC.

Această mișcare, care amintește de introducerea recentă de către xAI (compania lui Elon Musk) a doi chatboți cu conținut sexual explicit în Grok, ar putea ajuta OpenAI să atragă mai mulți abonați plătitori.

Totodată, este probabil ca aceasta să intensifice presiunea asupra legiuitorilor pentru introducerea unor reglementări mai stricte privind chatboții de tip „companion”.

Altman a declarat că OpenAI făcuse anterior ChatGPT „destul de restrictiv pentru a fi atenți la problemele de sănătate mintală”.

Aceste modificări au fost anunțate într-o postare pe blog, în august, care însă nu mai apare pe site-ul OpenAI.

„Ne-am dat seama că acest lucru l-a făcut mai puțin util/plăcut pentru mulți utilizatori care nu aveau probleme de sănătate mintală, dar, având în vedere gravitatea situației, am vrut să ne asigurăm că procedăm corect”, a scris Altman marți.

El a spus că ChatGPT ar putea relaxa în curând restricțiile „acum că am reușit să diminuăm problemele grave de sănătate mintală și avem noi instrumente”.

A adăugat: „În decembrie, odată cu extinderea verificării vârstei și în cadrul principiului nostru de a-i trata pe adulți ca adulți, vom permite și mai mult, inclusiv erotica, pentru utilizatorii verificați ca adulți.”

Schimbările vin după ce OpenAI a fost dată în judecată mai devreme în acest an de părinții unui adolescent american care s-a sinucis.

Erotica scrisă nu necesită verificarea vârstei în Regatul Unit, conform Online Safety Act. Însă imaginile pornografice, inclusiv cele generate de inteligență artificială, vor necesita dovada că utilizatorii au peste 18 ani.

În Statele Unite, criticii spun că decizia OpenAI de a permite conținut erotic pe platformă arată nevoia de reglementări mai stricte, atât la nivel federal, cât și la nivelul statelor.

„Cum vor face să se asigure că minorii nu pot accesa părțile din ChatGPT destinate adulților și care oferă conținut erotic?”, a întrebat Jenny Kim, parteneră în cadrul firmei de avocatură Boies Schiller Flexner.

Kim este implicată într-un proces intentat companiei Meta, în care se susține că algoritmul Instagram afectează sănătatea mintală a adolescenților.

„OpenAI, ca majoritatea companiilor mari din domeniu, folosește oamenii drept cobai”, a spus ea.

În aprilie, TechCrunch a raportat că OpenAI permitea conturilor înregistrate ca minori să genereze erotica explicită.

Compania a spus atunci că lucrează la o soluție pentru a limita acest tip de conținut.

---