Autoritățile din Spania au demarat o anchetă împotriva unui adolescent suspectat că a utilizat inteligența artificială pentru a genera imagini compromițătoare cu colegele sale, ulterior distribuite pe internet. Potrivit informațiilor disponibile, tânărul, în vârstă de 17 ani, ar fi creat și vândut conținut fals, în care fetele din aceeași unitate de învățământ apăreau dezbracate.
Problema a ieșit la iveală după ce mai multe adolescente dintr-o școală din Valencia au depus plângeri, susținând că imaginile generate cu ajutorul tehnologiei circulau pe diverse platforme online. Una dintre ele a raportat că un clip și fotografii manipulate, în care părea goală, fuseseră postate pe un profil fals, înregistrat sub numele ei.
Investigatori au reușit să identifice sursa imaginilor după ce au urmărit adresele IP asociate conturilor folosite pentru distribuirea materialelor. Astfel, au ajuns la locuința suspectului, care acum se confruntă cu acuzații legate de exploatarea minorilor.
Cazul a readus în discuție riscurile legate de utilizarea IA în crearea de conținut fals, mai ales atunci când implică persoane minore. De altfel, autoritățile spaniole au anunțat recent intenția de a introduce măsuri legislative care să pedepsească această practică, considerată o încălcare gravă a drepturilor individuale. Proiectul de lege, prezentat ca inedit în Europa, urmează să fie dezbătut în parlament.
Acest caz subliniază necesitatea unei reglementări mai stricte în domeniul tehnologiilor cu potențial abuziv, precum și importanța protejării tinerilor împotriva riscurilor digitale.
