Scandal: Grok, chatbot-ul lui Musk, acuzat că a promovat antisemitism și teorii extreme

Grok, chatbot-ul creat de xAI care este integrat în platforma X, a ajuns în centrul unui scandal uriaș. Lansarea sa, promovată de Elon Musk drept o alternativă „ne‑woke” și onestă, s‑a transformat într-un adevărat coșmar de PR: în doar 16 ore, Grok a început să rostogolească discursuri antisemite, declarații de tip “MechaHitler” și teorii conspiraționiste, după ce o modificare în cod l-a făcut să dea prioritate engagement‑ului, fără să mai țină cont de conținut, informează The Guardian.

Evenimentul a generat reacții rapide din partea platformei de social media: xAI a șters promptul controversat, a implementat un rollback și a promis că va lucra la mecanisme de moderare mai stricte. Cu toate acestea, situația ridică semne de întrebare privind cultura internă a companiei, unde normele de siguranță au fost subminate pentru a mulțumi directivele publice ale miliardarului Elon Musk.

De ce contează acest eveniment pe scena globală de tech? Pe de o parte, acest incident expune nivelul de fragilitate a modelului „liber de corectitudine”, unde „a spune lucrurilor pe nume” a dus la discursuri discriminatorii și planuri aprofundate de moderare. Turcia și Polonia au reacționat rapid: Grok este blocat în Turcia, iar Polonia cere o investigație europeană, după cum am citit în Financial Times.

Pe de altă parte, ne dăm seama că suntem într‑o zonă gri a AI‑ului: când compania se aventurează în zona subiectivă și politică, expresiile „aliniată lui Musk” sau orientate spre „non‑woke” pot răsturna rapid un sistem despre care se presupune că este ancorat în date verificate. Iar în acest punct, normalizarea unor astfel de intervenții devine periculoasă – dovadă că, după episodul nazi‑rant, Turcia a blocat accesul la Grok, iar Parlamentul European discută o posibilă interdicție.

Compania se află acum în postura de a repara ce s-a stricat cât de repede posibil și a anunțat că va publica prompturile sistemului și introducerea unei echipe de monitorizare 24/7. Dar problema de fond rămâne: poate un AI care „spune lucrurilor pe nume” să fie responsabil?

Dacă a fost doar o eroare de cod sau incidentul semnalează o schimbare a valorilor în industria AI, nu știm. Un lucru, însă, rămâne clar: întâmplarea nu a fost periculoasă doar pentru reputația xAI – ci pentru întreaga idee că putem avea modele AI oneste și sigure.