Amerykański nauczyciel oskarżony o wykorzystanie AI do oczernienia dyrektora nagraniem pełnym mowy nienawiści
Thomas Claburn informuje za pośrednictwem The Register:
Policja w Baltimore aresztowała Dazhona Leslie Dariena, byłego dyrektora ds. sportu w Pikesville High School (PHS), za rzekome podszywanie się pod dyrektora szkoły za pomocą oprogramowania AI, aby sprawić, że wydawało się, jakoby wygłaszał rasistowskie i antysemickie uwagi. Darien, z Baltimore w stanie Maryland, został następnie oskarżony o zemstę na świadku, prześladowanie, kradzież i zakłócanie działalności szkoły. Został zatrzymany późno w nocy, próbując wsiąść na pokład samolotu na lotnisku BWI Thurgood Marshall. Ochrona zatrzymała go, ponieważ zgłoszona przez niego broń była niewłaściwie zapakowana, a przeprowadzona kontrola tła ujawniła otwarty nakaz aresztowania.
"17 stycznia 2024 roku, Departament Policji Hrabstwa Baltimore dowiedział się o nagraniu głosowym krążącym w mediach społecznościowych," powiedział dziś Robert McCullough, szef policji hrabstwa Baltimore, na transmitowanej konferencji prasowej. "Podejrzewano, że głos zapisany w pliku audio należy do pana Erica Eiswerta, dyrektora Pikesville High School. Teraz mamy niezbite dowody, że nagranie było niewiarygodne. Departament Policji Hrabstwa Baltimore doszedł do tego wniosku po przeprowadzeniu szczegółowego śledztwa, które obejmowało zatrudnienie analityka sądowego współpracującego z FBI do przeglądu nagrania. Wyniki analizy wskazały, że nagranie zawierało ślady treści wygenerowanych przez AI." McCullough powiedział, że druga opinia od analityka sądowego z University of California, Berkeley, również określiła, że nagranie nie było autentyczne. "Na podstawie tych wyników oraz dalszego śledztwa stwierdzono, że nagranie zostało wygenerowane przy użyciu technologii sztucznej inteligencji," powiedział.
Zgodnie z nakazem aresztowania Dariena, plik audio został udostępniony w mediach społecznościowych 17 stycznia po wysłaniu go drogą e-mailową nauczycielom szkoły. Nagranie sprawiało wrażenie, jakoby dyrektor Eric Eiswert wygłosił uwagi o charakterze prowokującym, co skłoniło policję do doradzenia zapewnienia środków ochrony dla personelu szkoły. [...] Klip, zgodnie z nakazem, doprowadził do tymczasowego usunięcia Eiswerta ze stanowiska oraz "fali nienawistnych wiadomości w mediach społecznościowych i licznych telefonów do szkoły," co znacznie zakłóciło działalność szkoły. Policja twierdzi, że spowodowało to groźby wobec Eiswerta i obawy o jego bezpieczeństwo. Eiswert powiedział śledczym, że wierzy, iż nagranie było fałszywe, ponieważ "nigdy nie prowadził rozmów nagranych w nagraniu." A także stwierdził, że wierzy, iż odpowiedzialny jest Darien ze względu na jego techniczną znajomość AI oraz potencjalny motyw: Eiswert powiedział, że "były rozmowy z Darienem o tym, że jego kontrakt nie zostanie odnowiony w przyszłym semestrze z powodu częstych problemów z wydajnością pracy."* "Jest jasne, że wchodzimy także na nowy, głęboko niepokojący front, gdyż nadal przyjmujemy nowe technologie i ich potencjał do innowacji oraz dobra społecznego," powiedział John Olszewski, wysoki urzędnik hrabstwa Baltimore, podczas konferencji prasowej. "Musimy również pozostać czujni wobec tych, którzy użyliby ich w złych zamiarach. Będziemy musieli być bardziej świadomi i bardziej roztropni co do dźwięków, które słyszymy i obrazów, które widzimy. Będziemy musieli zachować ostrożność w naszej ocenie."
ELI5: Były dyrektor szkoły w Baltimore został aresztowany za używanie sztucznej inteligencji, aby podszywać się pod innego dyrektora i wygłaszać rasistowskie i antysemickie uwagi. Udało mu się to dzięki nagraniu głosowemu udostępnionemu na mediach społecznościowych. Policja odkryła, że nagranie jest fałszywe i zostało wygenerowane przez technologię sztucznej inteligencji. Dariusz został aresztowany za zemstę na świadku, prześladowanie i inne przestępstwa. Wszyscy musimy być ostrożni wobec nowych technologii i być czujni, gdyż mogą być one używane w złym celu.
Źródła: