SI opracowane przez polski startup ElevenLabs wykorzystane do podrobienia głosu Joe Bidena!

Amerykańska Federalna Komisja Łączności dąży do tego, aby nielegalne było wykorzystywanie głosów generowanych przez sztuczną inteligencję w automatach dzwoniących. Powodem jest głos brzmiący jak należący do prezydenta Joe Bidena, który w zeszłym miesiącu przez telefon mówił mieszkańcom stanu New Hampshire, aby nie głosowali w prawyborach prezydenckich. Federalna Komisja Łączności (FCC) jest zaniepokojona technologią deepfake audio wykorzystywaną do dezorientowania i oszukiwania konsumentów poprzez naśladowanie głosów „celebrytów, kandydatów politycznych oraz bliskich członków rodziny”. Wprowadzenie w życie propozycji przewodniczącej FCC Jessiki Rosenworcel sprawiłaby, że wykorzystanie głosów generowanych przez sztuczną inteligencję w automatach dzwoniących byłoby nielegalne na mocy ustawy o ochronie konsumentów telefonicznych (TCPA). Ustawa TCPA z 1991 roku ogranicza połączenia telemarketingowe i korzystanie z automatycznych systemów wybierania numerów telefonicznych oraz sztucznych lub nagranych wcześniej wiadomości głosowych. Wymaga również, aby telemarketerzy uzyskali uprzednią wyraźną pisemną zgodę od konsumentów przed wykonaniem do nich połączeń automatycznych. Federalna Komisja Łączności chce, aby głosy generowane przez sztuczną inteligencję podlegały tym samym standardom. Oczekuje się, że pięciu członków Komisji zagłosuje nad wnioskiem w nadchodzących tygodniach. – powiedziała Jessica Rosenworcel. Zajmująca się wykrywaniem oszustw głosowych firma Pindrop przeanalizowała fałszywą 39-sekundową wiadomość, w której został użyty głos brzmiący, jak prezydent Biden i odkryła, że została ona stworzona przy użyciu silnika zamiany tekstu na mowę stworzonego przez polski startup ElevenLabs. Startup wykorzystuje oprogramowanie sztucznej inteligencji do replikowania głosów w ponad dwudziestu językach. Bloomberg donosi, że ElevenLabs oficjalnie potwierdziło, że jego oprogramowanie zostało użyte w incydencie w New Hampshire i zablokowało konto, które było za to odpowiedzialne. Biuro prokuratora generalnego New Hampshire ogłosiło dochodzenie w sprawie fałszywych połączeń podszywających się pod prezydenta Bidena. Rzecznik Federalnej Komisji Łączności powiedział, że potencjalna zmiana prawa da prokuratorom generalnym nowe uprawnienia w walce z oszustami korzystającymi z generatywnej sztucznej inteligencji, jednocześnie lepiej chroniąc konsumentów. FCC od lat walczy z automatami dzwoniącymi. W grudniu 2022 r. zaproponowała grzywnę w wysokości 300 milionów dolarów za nielegalną międzynarodową operację, podczas której w ciągu trzech miesięcy 2021 roku automaty wykonały ponad pięć miliardów (!) połączeń z ponad 500 milionami numerów telefonów. W 2020 r. nałożono również grzywnę w wysokości 225 milionów dolarów za wprowadzające w błąd automaty dzwoniące. Generowanie głosów członków rodziny stało się popularną taktyką wśród przestępców, którzy chcą ukraść pieniądze niczego niepodejrzewającym ofiarom. Przestępcy coraz częściej korzystają z tego sposobu, ponieważ technologie generatywnej sztucznej inteligencji stają się łatwiejsze do zdobycia, tańsze i bardziej przekonujące.

To jest uproszczona wersja artykułu. KLIKNIJ aby zobaczyć pełną wersję (np. z galeriami zdjęć)

⇓ ⇓ Spodobał Ci się ten news? Zobacz nasze największe HITY ostatnich 24h

Skomentuj