Technologia deepfake może wtłoczyć nas do reklam

Firma D-ID zaprezentowała dość kontrowersyjny pomysł na wdrożenie technologii deepfake do branży reklamowej. Inżynierowie napisali algorytm, który pozwoli zastąpić twarze osób występujących na materiałach graficznych na podobne, acz nie identyczne i tak przetworzone, zanonimizowane treści wykorzysywać w celach mareketingowych. Przedstawiciele D-ID uważają, że dzięki algorytmowi restauratorzy mogliby np. robić zdjęcia klientów i używać je w reklamach, bez proszenia o zgodę o publikację wizerunku osób uwiecznionych na fotografiach. Algorytm przetworzyłby twarze w taki sposób, aby uniemożliwić rozpoznanie tożsamości bez drastycznego modyfikowania jej mimiki czy rysów twarzy. W ten sposób branża mogłaby tworzyć klony swoich klientów bez narażania się na jakiekolwiek konsekwencje prawne oraz wynajmowania statystów na potrzeby kampanii reklamowych. Przynajmniej w teorii, gdyż według dziennikarzy MIT Technology Review, którzy skonsultowali działanie algorytmu z europejskimi specjalistami ds. bezpieczeństwa, jego działanie może naruszać unijną dyrektywę RODO. Z kolei do amerykańskiego senatu trafiło kilka projektów ustaw, które mogą pokrzyżować szyki algorytmowi od D-ID. Malicious Deep Fake Prohibition Act miałby zabraniać dystrybuowania deepfaków, które służą do działań sprzecznych z prawem, a DEEPFAKES Accountability Act nakładałby obowiązek umieszczania na deepfake’ach znaków wodnych informujących o tym, że materiał został poddany obróbce graficznej. Dopóki jednak stosowanie technologii tego typu nie zostanie całkowicie zabronione, stoimy na z góry straconej pozycji, nigdy nie będziemy mieli pewności, czy ktoś nie wykorzystał zdjęć z nami w roli głównej do działań o wątpliwej moralności. Łatwo można także wyobrazić sobie, że algorytmy reklamowe w przyszłości będą w stanie generować dynamiczne reklamy internetowe, w których podstawią ludzi o twarzach łudząco podobnych do nas oraz naszych znajomych, zaciągając dane wsadowe np. z portali społecznościowych.