W ostatnią Wigilię NewsBreak, darmowa aplikacja z korzeniami w Chinach, która jest najczęściej pobieraną aplikacją informacyjną w Stanach Zjednoczonych, opublikowała alarmujący artykuł o strzelaninie w małym miasteczku. Został on zatytułowany "Christmas Day Tragedy Strikes Bridgeton, New Jersey Amid Rising Gun Violence in Small Towns". Problem polegał na tym, że taka strzelanina nie miała miejsca. Departament policji w Bridgeton w stanie New Jersey opublikował 27 grudnia oświadczenie na Facebooku, w którym odrzucił artykuł - wyprodukowany przy użyciu technologii AI - jako "całkowicie fałszywy". "Nic podobnego do tej historii nie wydarzyło się w Boże Narodzenie lub w okolicach Bożego Narodzenia, ani nawet w niedawnej pamięci w opisywanym obszarze" - napisano w poście. "Wygląda na to, że sztuczna inteligencja tego" serwisu informacyjnego "pisze fikcję, której nie ma problemu z publikowaniem czytelnikom". NewsBreak, z siedzibą w Mountain View w Kalifornii i biurami w Pekinie i Szanghaju, powiedział Reutersowi, że usunął artykuł 28 grudnia, cztery dni po publikacji.
Firma stwierdziła, że "niedokładne informacje pochodzą ze źródła treści" i podała link do strony internetowej, dodając: "Kiedy NewsBreak zidentyfikuje jakiekolwiek niedokładne treści lub jakiekolwiek naruszenie naszych standardów społeczności, podejmujemy natychmiastowe działania w celu usunięcia tych treści". Ponieważ lokalne serwisy informacyjne w całej Ameryce zostały zamknięte w ostatnich latach, NewsBreak wypełnił pustkę. Serwis Newsbreak, określający się jako "źródło informacji o wszystkim, co lokalne", ma ponad 50 milionów użytkowników miesięcznie. Publikuje licencjonowane treści z głównych mediów, w tym Reuters, Fox, AP i CNN, a także niektóre informacje uzyskane przez skrobanie Internetu w poszukiwaniu lokalnych wiadomości lub komunikatów prasowych, które przepisuje za pomocą sztucznej inteligencji. Aplikacja jest dostępna tylko w Stanach Zjednoczonych, ale w co najmniej 40 przypadkach od 2021 r. korzystanie z narzędzi sztucznej inteligencji wpłynęło na społeczności, którym stara się służyć, a Newsbreak publikuje błędne historie; tworzy 10 historii z lokalnych serwisów informacyjnych pod fikcyjnymi tytułami; i podnosząc treści od swoich konkurentów, zgodnie z przeglądem Reutersa wcześniej niezgłoszonych dokumentów sądowych związanych z naruszeniem praw autorskich, e-maili o zaprzestaniu działalności i notatką firmową z 2022 r., w której zarejestrowano obawy dotyczące "historii generowanych przez sztuczną inteligencję".
"Pięciu z siedmiu byłych pracowników NewsBreak, z którymi rozmawiał Reuters, stwierdziło, że większość prac inżynieryjnych stojących za algorytmem aplikacji odbywa się w jej chińskich biurach. "Firma rozpoczęła działalność w Stanach Zjednoczonych w 2015 roku jako spółka zależna Yidian, chińskiej aplikacji do agregacji wiadomości", zauważa Reuters. "Obie firmy zostały założone przez Jeffa Zhenga, dyrektora generalnego Newsbreak, a firmy mają wspólny amerykański patent zarejestrowany w 2015 r. na algorytm "Interest Engine", który rekomenduje treści informacyjne w oparciu o zainteresowania i lokalizację użytkownika".
"NewsBreak to prywatny start-up, którego głównymi sponsorami są firmy private equity z siedzibą w San Francisco Francisco Partners i IDG Capital z siedzibą w Pekinie".
ELI5: Firma nazywana NewsBreak opublikowała fałszywy artykuł o strzelaninie w niewielkim miasteczku w USA. Okazało się, że informacje te zostały wygenerowane przez sztuczną inteligencję i nie miały pokrycia w rzeczywistości. Firma usunęła artykuł i zadeklarowała, że podejmie działania, aby unikać podobnych błędów w przyszłości. NewsBreak pozyskuje informacje od różnych źródeł, w tym za pomocą sztucznej inteligencji, i ma ponad 50 milionów użytkowników miesięcznie w Stanach Zjednoczonych. Niektórzy byli pracownicy firmy potwierdzili, że większość prac technicznych związanych z aplikacją odbywa się w biurach w Chinach.
Źródła: