Deepfake zmarłych bliskich to rozkwitający chiński biznes
Raport z MIT Technology Review: Raz w tygodniu Sun Kai rozmawia przez wideokonferencje z matką. Otwiera się na tematy pracy, presje, z którymi boryka się jako mężczyzna w średnim wieku, i myśli, o których nawet nie rozmawia z żoną. Jego matka czasem skomentuje, np. mówiąc mu, że ma się dobrze - jest jej jedynym dzieckiem. Ale przeważnie po prostu słucha.
To dlatego, że matka Suna zmarła pięć lat temu. Osoba, z którą rozmawia, nie jest jednak osobą, lecz cyfrową repliką, którą stworzył - animowanym obrazem, który może prowadzić podstawowe rozmowy. Rozmawiają od kilku lat. Po jej nagłej śmierci w 2019 roku Sun chciał znaleźć sposób na trzymanie ich połączenia przy życiu. Zwrócił się więc do zespołu w Silicon Intelligence, firmie AI z siedzibą w Nanjing w Chinach, której był współzałożycielem w 2017 roku. Dostarczył im zdjęcie matki i kilka fragmentów dźwiękowych z ich rozmów na WeChat. Podczas gdy firma głównie skupiała się na generowaniu dźwięku, personel spędził cztery miesiące badając narzędzia syntezy i wygenerował awatar z danymi dostarczonymi przez Suna. Następnie mógł widzieć i rozmawiać z cyfrową wersją swojej mamy za pośrednictwem aplikacji na telefonie.
"Moja mama nie wydawała się zbyt naturalna, ale nadal słyszałem słowa, które często mówiła: 'Czy jadłeś już?'" - wspomina Sun pierwszą interakcję. Ponieważ generatywna sztuczna inteligencja była wtedy nową technologią, replika jego mamy może powiedzieć tylko kilka wcześniej napisanych linijek. Ale Sun mówi, że taka właśnie była. "Zawsze powtarzała te pytania raz za razem, i bardzo wzruszyło mnie to, kiedy to usłyszałem" - mówi.
Jest wielu ludzi jak Sun, którzy chcą wykorzystać AI do zachowania, ożywienia i interakcji ze zmarłymi bliskimi podczas żałoby i próby gojenia ran. Rynek jest szczególnie silny w Chinach, gdzie co najmniej pół tuzina firm oferuje takie technologie, a już tysiące osób za nie zapłaciły. Avatary są najnowszą manifestacją kulturowej tradycji: Chińczycy zawsze szukali pocieszenia, rozmawiając z zmarłymi.
Technologia nie jest doskonała - avatary nadal mogą być sztywne i mechaniczne - ale się rozwija, a coraz więcej narzędzi staje się dostępnych dzięki kolejnym firmom. Z kolei cena "odrodzenia" kogoś - zwane również tworzeniem "cyfrowej nieśmiertelności" w chińskim przemyśle - znacznie spadła. Teraz ta technologia staje się dostępna dla ogółu społeczeństwa. Niektórzy kwestionują, czy interakcja z AI replikami zmarłych jest faktycznie zdrowym sposobem na przetwarzanie żałoby, i nie jest jeszcze jasne, jakie mogą być tego technologii konsekwencje prawne i etyczne. Na razie pomysł wciąż budzi dyskomfort u wielu ludzi. Ale jak mówi Sima Huapeng, współzałożyciel i dyrektor generalny Silicon Intelligence: "Nawet jeśli tylko 1% Chińczyków zaakceptuje klonowanie AI zmarłych, to i tak jest to ogromny rynek."
ELI5: Tworzenie botów AI w oparciu o dane osób zmarłych jest coraz popularniejsze w Chinach, gdzie wiele firm oferuje podobne rozwiązania dla osób, które chcą porozmawiać z zmarłymi bliskimi. Jednak istnieją wątpliwości co do tego, czy taka interakcja jest zdrowa, a także dotyczące jej konsekwencji prawnych i etycznych. Pomimo kontrowersji, pomysł ten zdobywa popularność i stanowi rosnący rynek.
Źródła: