gen: DALL-E

Polski startup ElevenLabs trafił na pierwsze strony gazet na początku tego roku, kiedy jego technologia AI została wykorzystana do sklonowania głosu prezydenta Bidena oraz użycia go w serii połączeń automatycznych skierowanych do wyborców w stanie New Hampshire zachęcających ich do powstrzymania się od głosowania w prawyborach Demokratów. Głos udzielający tej rady brzmiał niemal dokładnie jak prezydent Joe Biden.

Zajmująca się wykrywaniem oszustw głosowych firma Pindrop Security przeanalizowała później rozmowę, stwierdzając, że została ona utworzona przy użyciu silnika zamiany tekstu na mowę firmy ElevenLabs, co polska firma potwierdziła i zawiesiła konto osoby, która stworzyła deepfake.

Teraz Bloomberg podaje, że ElevenLabs nawiązało współpracę z Reality Defender, amerykańską firmą, która oferuje swoje usługi wykrywania deepfake'ów rządom, urzędom i przedsiębiorstwom.

Partnerstwo wydaje się być korzystne dla obu stron. Reality Defender uzyskuje dostęp do danych i modeli klonowania głosu ElevenLabs, co pozwala mu lepiej wykrywać podróbki, podczas gdy firma AI może korzystać z narzędzi Reality Defender, aby zapobiec niewłaściwemu wykorzystaniu jej produktów. Rzecznik ElevenLabs powiedział, że umowa nie zawiera żadnych elementów finansowych.

ElevenLabs zabrania klonowania głosu osoby bez jej zgody. Jej usługi są reklamowane jako zdolne do wypełniania luk językowych, przywracania głosów tym, którzy je utracili i sprawiania, że interakcje cyfrowe stają się bardziej ludzkie.

Deepfakes, które są w stanie tworzyć niezwykle realistyczne wideo i audio udające prawdziwych ludzi, stają się coraz bardziej zaawansowane. Wykorzystuje się je nie tylko do umieszczania ofiar w filmach pornograficznych, ale coraz częściej nadużywa się ich na arenie politycznej – co jest dużym zmartwieniem w trakcie roku wyborczego w USA.

Incydent z głosem Bidena doprowadził do złożenia propozycji przez FCC, aby wykorzystywanie głosów generowanych przez sztuczną inteligencję w połączeniach automatycznych było nielegalne na mocy ustawy o ochronie konsumentów telefonicznych (TCPA). Agencja rządowa powołała się na obawy, że technologia jest wykorzystywana do dezorientowania i oszukiwania konsumentów poprzez naśladowanie głosów „celebrytów, kandydatów politycznych i bliskich członków rodziny”.

fot. zrzut ekranu YouTube

W marcu podczas swojego przemówienia o stanie państwa Biden wezwał do zakazu AI kopiujących ludzki głos, choć zakres proponowanego zakazu nie został przez prezydenta określony.

Z kolei Unia Europejska już w maju tego roku przyjęła AI Act, w którym reguluje wykorzystanie sztucznej inteligencji.

Zobacz także:

-

Generator mowy AI Microsoftu osiągnął ludzki poziom realizmu

-

Sztuczna inteligencja - rewolucyjna AI Act przyjęta. UE zakazuje jednego obszaru