Amazon Alexa przedstawia nową technologię, która może imitować głosy, w tym zmarłych

Symbol zastępczy podczas wczytywania akcji artykułu

Opierając się na łoże boleści przy stole na Amazon Tech Summit w tym tygodniu, Echo Dot został poproszony o wykonanie zadania: „Alexa, czy babcia może mi dokończyć czytanie” Czarnoksiężnik z Krainy Oz’?”

Zwykle wesoły głos Alexy grzmiał z dziecięcego inteligentnego głośnika z wzorem pandy: „Ok!” Następnie, gdy urządzenie zaczęło opowiadać scenę Tchórzliwego Lwa błagającego o odwagę, robotyczne brzęczenie Alexy zostało zastąpione bardziej ludzkim głosem narratora.

„Zamiast głosu Alexy czytającego książkę, to głos babci dziecka” – wyjaśnił entuzjastycznie w środę Rohit Prasad, starszy wiceprezes i główny naukowiec ds. sztucznej inteligencji. Alexa podczas przemówienia w Las Vegas. (Założyciel Amazon, Jeff Bezos, jest właścicielem The Washington Post.)

Demo było pierwszym spojrzeniem na nową funkcję Alexy, która – choć wciąż jest w fazie rozwoju – pozwoli asystentowi głosowemu odtwarzać głosy ludzi z krótkich klipów audio. Celem, powiedział Prasad, jest zbudowanie większego zaufania wśród użytkowników poprzez natchnienie sztucznej inteligencji „ludzkimi atrybutami empatii i afektu”.

Nowa funkcja może „uczynić [loved ones’] ostatnie wspomnienia — powiedział Prasad. Eksperci twierdzą, że choć perspektywa usłyszenia głosu zmarłego krewnego może dotknąć serca, rodzi również niezliczone problemy z bezpieczeństwem i etyką.

„Nie sądzę, aby nasz świat był gotowy na przyjazną dla użytkownika technologię klonowania głosu” – powiedziała The Washington Post Rachel Tobac, dyrektor zarządzająca SocialProof Security z siedzibą w San Francisco. Dodała, że ​​taka technologia może zostać wykorzystana do manipulowania odbiorcami za pomocą fałszywych klipów audio lub wideo.

„Jeśli cyberprzestępca może łatwo i wiarygodnie odtworzyć głos innej osoby za pomocą małej próbki głosu, może użyć tej próbki głosu do podszywania się pod inne osoby” – dodał Tobac, ekspert ds. cyberbezpieczeństwa. „Ten zły aktor może następnie oszukać innych, by myśleli, że są osobą, pod którą się podszywają, co może prowadzić do oszustwa, utraty danych, przejęcia konta itp.”

Wtedy istnieje ryzyko zatarcia granic między tym, co ludzkie, a tym, co mechaniczne, mówi Tama Leaver, profesor studiów internetowych na Curtin University w Australii.

„Nie będziesz pamiętać, że rozmawiasz w głębi Amazonii… i jego usługi gromadzenia danych niezależnie od tego, czy rozmawia z babcią, głosem dziadka, czy zagubionej ukochanej osoby.

„Pod pewnymi względami przypomina to odcinek „Czarnego lustra” — powiedział Leaver, odnosząc się do seria science-fiction przewidująca przyszłość o tematyce technologicznej.

Inżynier Google, który uważa, że ​​sztuczna inteligencja firmy ożyła

Nowa funkcja Alexy rodzi również pytania dotyczące zgody, dodał Leaver – zwłaszcza dla osób, które nigdy nie wyobrażały sobie, że ich głos zostanie usłyszany przez automatycznego osobistego asystenta po śmierci.

„Istnieje naprawdę śliskie podejście do wykorzystywania danych od zmarłych osób w sposób, który z jednej strony jest przerażający, ale z drugiej głęboko nieetyczny, ponieważ nigdy nie uważali, że te ślady są wykorzystywane w ten sposób” – powiedział Leaver.

Po stracie dziadka, Leaver powiedział, że rozumie „pokusę” usłyszenia głosu ukochanej osoby. Ale możliwość otwiera powódź implikacji, których społeczeństwo może nie być gotowe na przyjęcie, powiedział – na przykład kto ma prawa do małych fragmentów, które ludzie zostawiają w eterze World Wide Web?

„Gdyby dziadek wysłał mi 100 wiadomości, czy miałbym prawo wprowadzić to do systemu? A jeśli to zrobię, kto to jest właścicielem? Czy Amazon jest właścicielem tego rekordu? ” On zapytał. „Czy zrzekłem się praw do głosu mojego dziadka?

Prasad nie odniósł się do tych szczegółów podczas środowego przemówienia. Postulował jednak, że umiejętność naśladowania głosów była wynikiem „bez wątpienia życia w złotym wieku sztucznej inteligencji, gdzie nasze marzenia i science fiction stają się rzeczywistością”.

Ten model sztucznej inteligencji próbuje odtworzyć umysł Ruth Bader Ginsburg

Jeśli demo Amazona stanie się prawdziwą funkcją, Leaver powiedział, że ludzie będą musieli zacząć myśleć o tym, jak ich głos i podobieństwo mogą zostać wykorzystane, gdy umrą.

„Czy mam myśleć w testamencie, że powinienem powiedzieć: „Mój głos i moja obrazkowa historia w mediach społecznościowych jest własnością moich dzieci i mogą zdecydować, czy chcą to reanimować, rozmawiając ze mną, czy nie? ‘” zastanawiał się Leaver.

„Dziwna rzecz do powiedzenia. Ale to prawdopodobnie pytanie, na które powinniśmy odpowiedzieć, zanim Alexa zacznie jutro mówić tak jak ja” – dodał.

Leave a Comment