Directoratul Naţional de Securitate Cibernetică (DNSC) a lansat Ghidul ”Deepfake – Manipulat sau Informat”, denumit în continuare ”ghid”. ”Acest ghid reprezintă un instrument esențial pentru înțelegerea și abordarea provocărilor asociate cu fenomenul Deepfake, având ca obiectiv principal protejarea și educarea publicului cu privire la conștientizarea riscurilor de securitate cibernetică”, conform ”dnsc.ro”.
Ghidul conține:
– Definiția și importanța înțelegerii deepfake-ului;
– Tehnologia din spatele Deepfake;
– Procesul de creare a unui Deepfake;
– Pericolul Deepfake în contextul electoral;
– Semne de identificare a unui Deepfake;
– Instrumente și tehnici de detectare a Deepfake;
– Sfaturi pentru a evita să fii păcălit de Deepfake-uri;
– Ce să faci dacă ești victima unui Deepfake;
– Regulament privind inteligența artificială adoptată de Parlamentul European.
Extrase din ghid:
Deepfake, o definiție
Deepfake este o manipulare digitală a unei înregistrări video, audio sau a unei imagini, realizată cu ajutorul inteligenței artificiale (IA) sau a altor programe specializate.
De ce este important să înțelegem Deepfake
Înțelegerea Deepfake-urilor este crucială, având implicații semnificative în societate, politică, securitate cibernetică și în manipularea încrederii publice.
– Impact asupra adevărului și încrederii: Deepfake-urile pot distorsiona realitatea;
– Securitate și fraude: Tehnologia Deepfake poate fi folosită pentru a crea înregistrări false care implică persoane în activități pe care nu le-au realizat sau pentru a produce dovezi false în contexte juridice;
– Manipulare și dezinformare: În politică și în alte domenii, Deepfake-urile pot fi folosite pentru a manipula opinia publică, a discredita adversarii sau a crea confuzie;
– Impact social și etic: Utilizarea imorală a tehnologiei Deepfake, pentru crearea de materiale compromițătoare sau hărțuirea online;
– Pregătire pentru viitor: Pe măsură ce tehnologia continuă să avanseze, este probabil ca Deepfake-urile să devină tot mai sofisticate și mai greu de detectat;
– Educație și conștientizare: Educația publicului despre existența și capacitatea Deepfake-urilor poate
ajuta la atenuarea impactului lor prin creșterea scepticismului sănătos față de conținutul dubios și încurajarea verificării informațiilor din surse multiple.
Semne de identificare a unui Deepfake
Protejarea împotriva Deepfake-urilor este o provocare continuă, deoarece tehnologia se perfecționează constant, făcând conținutul manipulat tot mai greu de distins de cel real. Cu toate acestea, există anumite indicii care pot trăda un Deepfake, iată la ce anume trebuie să fim atenți:
• Mediul înconjurător (de exemplu, umbre inexistente, reflexii prea puternice, zone neclare)
• Imperfecțiuni ale feței (alunițe nerealiste, clipire nesincronizată, distorsiuni în interiorul gurii cum ar
fi lipsa dinților și a limbii, dinți mult prea perfecți etc.)
• Nesincronizarea vorbirii/sunetului și a mișcării buzelor, de exemplu: din cauza strănutului.
Nesincronizarea vorbirii/sunetului și a mișcării buzelor poate fi observată la pronunțarea literelor b, m și p. Uneori apar pixeli în nuanțe de gri la marginile componentelor modificate. Se poate distinge dacă este vorba de o falsificare și atunci când persoana din înregistrare este privită dintr-un alt unghi. Dacă pentru
crearea conținutului Deepfake nu s-au folosit fotografii ale persoanei din unghiuri diferite, algoritmul nu poate deduce aspectul persoanei din alt unghi, rezultând distorsiuni.
Instrumente și tehnici de detectare a Deepfake
Detectarea Deepfake-urilor este o provocare în continuă evoluție, întrucât tehnologiile de IA care stau la baza creării Deepfake-urilor devin din ce în ce mai sofisticate.
Iată câteva dintre cele mai promițătoare abordări în detectarea Deepfake-urilor:
– Analiza comportamentală: Această metodă se bazează pe identificarea micilor imperfecțiuni sau anomalii în comportamentul sau mișcările fizice ale subiectului din videoclip.
– Consistența iluminării: Detectarea inconsistențelor în iluminare este o altă tehnică eficientă. Algoritmii analizează umbrele, reflexiile și modul în care lumina se reflectă pe diferite suprafețe ale feței pentru a determina dacă imaginea a fost manipulată.
– Analiza texturii pielii: Tehnicile de Deepfake adesea netezesc textura pielii sau introduc anomalii la nivelul texturii.
– Detectarea artefactelor de compresie: Videoclipurile și imaginile manipulare prin IA pot prezenta artefacte de compresie unice datorită procesului de generare și compresie.
– Examinarea metadatelor: Deși Deepfake-urile în sine pot fi convingătoare, metadatele asociate cu un fișier video sau imagine (cum ar fi data creării, tipul camerei etc.) pot fi contradictorii sau suspecte, sugerând manipulare.
– Verificarea consistenței respirației și a pulsului: Unele tehnici avansate includ analiza variațiilor minore în culoarea feței sau a umbrelor, care pot indica bătăile inimii și respirația.
Sfaturi pentru a evita să fii păcălit de Deepfake-uri
Evitarea înșelăciunii prin Deepfake necesită o combinație de scepticism sănătos, atenție la detalii și utilizarea unor instrumente de verificare. Iată câteva sfaturi utile:
– Nu crede tot ce vezi online! Internetul este o sursă vastă de informații, dar nu toate sunt veridice. Este important să dezvolți un scepticism sănătos și să analizezi cu atenție orice conținut video sau foto înainte de a-l accepta ca fiind real;
– Caută semne de manipulare: Deepfake-urile pot fi foarte sofisticate, dar adesea pot fi identificate prin anumite indicii. Fii atent la discrepanțe de iluminare, erori de aliniere, nereguli ale pielii sau probleme de sincronizare a buzelor cu sunetul;
– Verifică sursa: De unde provine videoclipul sau imaginea? Este distribuit pe o platformă de încredere? Caută confirmarea informației din surse credibile sau direct de la entitățile sau persoanele implicate;
– Folosește instrumente de verificare: Există numeroase organizații și instrumente online care te pot ajuta să verifici dacă o informație este reală. Utilizează-le pentru a cerceta autenticitatea conținutului suspect;
– Nu te baza pe o singură sursă: Caută confirmare din mai multe surse credibile;
• Învață despre Deepfake-uri: Cu cât înțelegi mai bine cum funcționează această tehnologie, cu atât vei fi mai capabil să identifici falsurile. Există multe resurse online care explică principiile Deepfake-urilor și metodele de detectare.
Prin aplicarea acestor sfaturi, poți reduce riscul de a fi înșelat de conținutul Deepfake și poți contribui la promovarea unei culturi a verificării și a responsabilității în mediul online.
Sursă text: ”dnsc.ro”(.pdf, 1,48MB).
Accesează – Ghidul ”Deepfake – Manipulat sau Informat” ”dnsc.ro”(.pdf, 1,48MB)
Foto: ”freepik.com”
Citește și:
– Informare privind tentative de fraudă în numele BNR – ”stiridigitale.ro”
– Ce este tehnologia deep fake și cum ne putem proteja de capcanele din online care se folosesc de aceasta – ”stiridigitale.ro”
