Lumi Cyberpunk Generate de AI: Între Inovație și Responsabilitate

În ultima lună, Google Veo 3 a devenit disponibil publicului larg, permițând crearea de videoclipuri generate de AI, completate de voci robotizate. Recent, discuțiile pe X (fostul Twitter) sugerează că o funcționalitate mai imersivă, ce ar permite utilizatorilor să genereze lumi de joc utilizând Veo 3, ar putea fi lansată în curând. Demis Hassabis, co-fondator și CEO Google DeepMind, a răspuns enigmatic la o postare ce prezenta un videoclip generat al unui oraș cyberpunk, întrebând "când vom avea modele de lumi jucabile în Google Veo 3?".

Acest lucru nu este surprinzător, având în vedere că Genie 2, un model AI capabil să genereze medii 3D interactive, a fost dezvăluit la sfârșitul anului trecut. Este posibil ca Veo 3 să beneficieze în curând de învățarea automată a Genie 2.

Probleme de Copyright și Creativitate

Cu toate acestea, această dezvoltare ridică semne de întrebare. Clipul Veo 3 menționat anterior seamănă izbitor cu o captură de ecran din jocul Nivalis, disponibilă pe pagina de Steam. Dacă această imagine a fost folosită ca bază pentru videoclipul din postarea X, atunci nu numai că este surprinzător, dar expune și modul în care AI-ul generativ este uneori folosit pentru a devaloriza munca creatorilor. Un exemplu relevant este faptul că mulți creatori de conținut nu știau că Google folosește videoclipuri YouTube pentru a-și antrena modelele AI.

Dezinformare și Conținut Toxic

Pe lângă problemele legate de creativitate, există și alte motive de îngrijorare cu privire la apariția videoclipurilor generate de AI. Într-un raport recent, Time a demonstrat cum Veo 3 ar putea fi folosit pentru a crea videoclipuri deepfake care propagă dezinformare sau exacerbează tensiunile sociale și politice. Media Matters for America a raportat despre un val de videoclipuri rasiste și antisemite generate de AI care au strâns milioane de vizualizări pe TikTok, în ciuda politicilor platformei împotriva discursului instigator la ură.

Filigranare Ineficientă

Deși unii utilizatori ar putea dori să folosească Veo 3 pentru a se cufunda în lumi generate pe bază de comenzi text, alții au intenții mai puțin inocente. Google a introdus un filigran mic în videoclipurile Veo 3, dar acesta nu va apărea în videoclipurile create de abonații Flow by Ultra tier Google AI, subminând efortul de a combate utilizarea abuzivă. Nici OpenAI nu gestionează mult mai bine modelul său concurent text-video, Sora. Deși au implementat un filigran și instrumente pentru a detecta videoclipurile create cu Sora, cercetările sugerează că protocoalele de siguranță din mai multe LLM-uri importante rămân relativ ușor de ocolit.

Concluzie

În concluzie, deși tehnologia AI generativă video oferă posibilități interesante, este esențial să fim conștienți de riscurile pe care le prezintă și să abordăm aceste provocări cu prudență. Este important să se găsească un echilibru între inovație și responsabilitate pentru a preveni utilizarea abuzivă a acestei tehnologii.