Revizuirea proiectului de Lege privind utilizarea responsabilă a tehnologiei în contextul #deepfake

aprilie 3, 2024

Autor: Costin Olteanu, Junior Associate

27.02.2024

Astfel cum este prezentat în mediul online, deepfake-ul este o tehnologie care utilizează inteligența artificială pentru a crea conținut fals sau manipulat, în special în formă de clipuri video sau imagini.

Procesul implică antrenarea unui algoritm pe un set de date care conține imagini și/sau clipuri video ale subiectului pe care cineva dorește să-l imite. Acest algoritm este apoi capabil să genereze conținut nou care, deși pare a fi autentic, reprezintă de fapt o simulare.

În fața valului covârșitor de atacuri cibernetice și al trendului tot mai crescut de a crea conținut deepfake, încă de anul trecut s-a discutat în Parlamentul României proiectul de Lege privind utilizarea responsabilă a tehnologiei în contextul fenomenului deepfake.

În forma proiectului de lege adoptat de Senatul României în data de 26 iunie 2023, deepfake-ul este definit ca orice conţinut falsificat de tip imagine, audio şi/sau video realizat, de regulă, cu ajutorul inteligenţei artificiale, a realităţii virtuale, a realităţii augmentate sau altor mijloace, astfel încât să creeze aparenţa că o persoană a spus sau a făcut lucruri, pentru care nu şi-a dat consimţământul, care în realitate nu au fost spuse sau făcute de acea persoană.

Potrivit acestei forme, distribuirea pe internet şi/sau difuzarea în mass- media de conţinut tip deepfake este interzisă dacă nu este însoţită de un avertisment redat pe cel puţin 10% din suprafaţa expunerii şi pe toată durata difuzării respectivului conţinut vizual sau de un mesaj sonor la începutul şi la finalul conţinutului audio: „Acest material conţine ipostaze imaginare”. Încălcarea acestor dispoziții, dacă nu au fost săvârşite în astfel de condiţii încât, potrivit legii penale, să fie considerate infracţiuni, constituie contravenţie şi se sancţionează cu amendă de la 10.000 lei la 100.000 lei. Dacă fapta are caracter repetat în cel puţin două acţiuni distincte, se sancţionează cu amendă de la 20.000 lei la 200.000 lei.

În urma examinării proiectului de lege, Comisia pentru tehnologia informației și comunicațiilor și Comisia pentru cultură, arte, mijloace de informare în masă au hotărât să propună plenului Camerei Deputaților adoptarea proiectului de Lege privind utilizarea responsabilă a tehnologiei în contextul fenomenului deepfake, cu anumite amendamente.

Cele două comisii au propus definirea utilizării malițioase a tehnologiei ca fiind acțiunea intenționată de inducere în eroare, cu scopul de a crea dezinformare și/sau haos informațional prin manipularea comportamentului uman și/sau exploatarea vulnerabilităților.

În forma cu amendamente, proiectul prevede pedeapsa închisorii de la 6 luni la 2 ani pentru crearea de conținut de tip deepfake, iar pentru distribuirea acestuia, cunoscând natura falsă a conținutului, pedeapsa cu 60 până la 180 de zile amendă.

Proiectul dezbătut în plenul Camerei Deputaților prevede și faptul că instituțiile cu atribuții în domeniile mass-media, internet, dispun, prin decizie oprirea de la difuzarea în mass-media sau blocarea distribuirii pe internet a conținutului de tip deepfake neînsoțit de avertisment sau mesaj sonor şi obligă autorul conținutului să îl elimine. De asemenea, se propune înființarea de către Consiliul Național al Audiovizualului a unei structuri responsabile de aplicarea prevederilor legii.

La dezbaterea din Camera Deputaților a proiectului de Lege privind utilizarea responsabilă a tehnologiei în contextul fenomenului deepfake, discuțiile s-au axat pe problematica încălcării dreptului la liberă exprimare, îngrijorările fiind lansate atât de parlamentari dar și de mai multe organizații neguvernamentale care au arătat că proiectul nu prevede excepții care să protejeze creațiile de tip pamflet, pe cele utilizate în scopuri de promovare comercială sau pe cele folosite în industria cinematografica, astfel cum se încearcă a fi reglementat printr-un act similar la nivel european.

Proiectul de lege a fost transmis către Comisia pentru tehnologia informației și comunicațiilor și către Comisia pentru cultură, arte, mijloace de informare în masă, pentru întocmirea unui raport suplimentar, termenul stabilit fiind 1 martie 2024.

Având în vedere capacitatea materialelor deepfake de a altera și de a manipula opinia publică în scopuri frauduloase, în contextul în care cercetătorii lucrează la dezvoltarea unor tehnologii avansate de recunoaștere a manipulării digitale și autentificare a conținutului media, dezideratul este acela al adoptării unei legi care să aibă în vedere adevărata dimensiune a tehnologiei AI precum și a fenomenului deepfake și, în același timp, care să respecte dreptul la liberă exprimare.