Tagi: CSAM

DOJ dokonuje pierwszego znanego aresztowania za CSAM generowany przez AI

W tym, co uważa się za pierwszy taki przypadek, Departament Sprawiedliwości USA aresztował w zeszłym tygodniu mężczyznę z Wisconsin za generowanie i dystrybuowanie materiałów z nadużyciami seksualnymi wobec dzieci (CSAM) przy użyciu sztucznej inteligencji. Nawet jeśli nie użyto dzieci do stworzenia materiałów, DOJ "stara się ustanowić precedens sądowy, że materiały wykorzystujące są nadal nielegalne", donosi Engadget. Z raportu: DOJ twierdzi, że 42-letni inżynier oprogramowania Steven Anderegg z Holmen, WI, użył odgałęzienia otwartego generatora obrazów AI, nazwanego Stable Diffusion, do stworzenia obrazów, które następnie próbował wykorzystać, aby skusić nieletniego chłopca do sytuacji seksualnych. To ostatnie prawdopodobnie odegra kluczową rolę w ewentualnym procesie w związku z czterema zarzutami "produkcji, dystrybucji i posiadania nieprzyzwoitych wizualizacji nieletnich zaangażowanych w wyraźnie seksualne zachowania oraz przesyłania nieprzyzwoitego materiału nieletniemu w wieku poniżej 16 lat." Rząd twierdzi, że obrazy Anderegga pokazywały "nagie lub częściowo ubrane nieletnie, lubieżnie prezentujące lub dotykające swoich genitaliów albo angażujące się w stosunki seksualne z mężczyznami." DOJ twierdzi, że użył on określonych sygnałów, w tym negatywnych sygnałów (dodatkowe wskazówki dla modelu AI, mówiące mu, czego nie powinien produkować), aby pobudzić generator do tworzenia CSAM.

Generatory obrazów oparte na chmurze, takie jak Midjourney czy DALL-E 3, posiadają zabezpieczenia przeciwko tego typu działaniom, jednak Ars Technica donosi, że Anderegg rzekomo użył Stable Diffusion 1.5, wariantu z mniejszą ilością ograniczeń. Firma Stability AI powiedziała publikacji, że odgałęzienie zostało wyprodukowane przez Runway ML. Według DOJ, Anderegg komunikował się online z 15-letnim chłopcem, opisując, jak użył modelu AI do tworzenia obrazów. Agencja twierdzi, że oskarżony wysłał nastolatkowi bezpośrednie wiadomości na Instagramie, włączając wiele obrazów AI przedstawiających "nieletnich, którzy lubieżnie prezentują swoje genitalia." Co godne uznania, Instagram zgłosił obrazy do National Center for Missing and Exploited Children (NCMEC), które powiadomiło organy ścigania. Anderegg może stanąć przed wyrokiem od pięciu do 70 lat pozbawienia wolności jeśli zostanie skazany na wszystkie cztery zarzuty. Obecnie przebywa w areszcie federalnym przed przesłuchaniem zaplanowanym na 22 maja.

ELI5: Departament Sprawiedliwości w USA aresztował mężczyznę za używanie sztucznej inteligencji do tworzenia i rozpowszechniania nielegalnych materiałów z nadużyciami seksualnymi dzieci. Mężczyzna próbował skusić nieletniego chłopca za pomocą stworzonych przez siebie obrazów. Teraz stoi przed sądem i może zostać skazany na wiele lat więzienia. To ważne, że platforma społecznościowa, na której działał, zgłosiła podejrzaną działalność.

Źródła: