Analiză FT. Folosirea identităților generate de inteligența artificială în campaniile de dezinformare ia amploare.

Imaginea folosită pentru ilustrarea articolului este generată de un site care creează identități noi, prin compararea trăsăturilor chipurilor umane

„Fake faces”, imagini statice generate de inteligența artificială (AI) sunt un instrument tot mai folosit în procesul de dezinformare, pe lângă videoclipurile deepfake, o tehnică prin care sunt manipulate filmările. În loc să manipuleze cuvintele unei persoane, imaginile statice generate „creează” o cu totul altă persoană.

Tehnologia folosită pentru generarea fețelor false se numește GAN (generative adversarial networks): o rețea generează un chip, iar alta îl compară cu trăsăturile înfățișării umane. Tehnica se autoperfecționează. „Imaginile generate GAN sunt foarte realiste și au detalii de foarte bună calitate, care le face să pară plauzibile pentru ochiul liber” explică Siwei Lyu, profesor de computer science la Universitatea Albany din New York.

Ben Nimmo, director de investigații în domeniul social media al Graphika, explică: „Anul trecut, această tehnică era o noutate, acum ni se pare că orice operațiune pe care o investigăm recurge la fake faces măcar o dată”. „Fake faces” au fost deja descoperite în campaniile de dezinformare care erau orchestrate din China și Rusia, dar și în mass-media americană de dreapta”.

Associated Press, agenția de presă americană, a descoperit identități false pe internet create în acest mod încă din iunie anul trecut, prin identificarea unor conturi false pe LinkedIn. Folosirea tehnologiei la scară mare a fost identificată în decembrie, când Graphika a dat publicității un raport de 900 de pagini în care identifica rețele de conturi false asociate cu o publicație de presă. Investigația a arătat că manipularea vizează mai mult crearea de identități pe Facebook și distribuirea de știri susținute de regimurile din China și Rusia.

Giorgio Patrini, director executiv al platformei Sensity pentru detectarea deepfake-ului, explică faptul că și unele companii se folosesc de „fake faces”, pentru a înregistra recenzii false sau pentru a-și îmbogăți prezența online cu imagini false ale echipei de lucru. Există însă și site-uri foarte accesibile publicului larg, care generează imagini false la fiecare vizită. Tehnica permite și generarea de imagini cu mașini sau animale care n-au existat niciodată.

Totuși, software-ul nu este perfect. Au fost cazuri când într-o imagine falsă cu o persoană, chipul respectiv era înclinat într-o parte, dar dinții apăreau perfect drepți, paraleli cu marginile imaginii. Slăbiciunea softului se observă când are de integrat alte obiecte în fundal (vor apărea distorsionate), de aceea majoritatea imaginilor cu chipuri falsificate vor avea în spate un fundal gol, chiar opac.

Sursa: Financial Times.