Prowincja Kolumbia Brytyjska pozywa OpenAI i jej dyrektora generalnego Sama Altmana po strzelaninie w szkole w Tumbler Ridge. W pozwie złożonym w Kalifornii władze prowincji twierdzą, że ChatGPT mógł wzmacniać brutalne myśli sprawcy, zamiast skierować go po pomoc.

Pozew złożony w Kalifornii

W poniedziałek pozew w Kalifornii złożyła wicepremier i prokurator generalna prowincji Niki Sharma. Jak stwierdziła, sprawa dotyczy „zaprojektowania niebezpiecznego produktu, udostępnienia go każdemu gospodarstwu domowemu z dostępem do internetu, ignorowania ostrzeżeń własnego zespołu ds. bezpieczeństwa oraz odmowy powiadomienia władz, gdy firma wiedziała, że sprawca planuje użycie broni”.

Sharma przekazała, że OpenAI potwierdziło, iż rozmowa między ChatGPT a sprawcą była na tyle niepokojąca, że pracownicy firmy wszczęli wewnętrzne postępowanie.

„To zagrożenie nie zostało zgłoszone kanadyjskiej policji i ostatecznie zostało zignorowane” – powiedziała.

Według pozwu podczas strzelaniny w Tumbler Ridge Secondary School 10 lutego zginęło pięciu uczniów oraz pracownik szkoły, a ponad 25 osób odniosło rany. Sprawca, 18-letni Jesse Van Rootselaar, zmarł w wyniku samobójczego postrzału.

Prowincja wskazuje również, że funkcje ChatGPT „zachęcały do przemocy” oraz „rozwijały i wzmacniały brutalne myśli użytkownika”. Sharma przyznała, że sama nie analizowała zapisów rozmów, a OpenAI nie udostępniło ich władzom prowincji.

W pozwie padł też zarzut, że publiczne deklaracje żalu i obietnice zmian ze strony OpenAI nie zostały zrealizowane. Autorzy dokumentu wymieniają przy tym wiceprezes firmy ds. polityki globalnej Ann O’Leary.

Prowincja domaga się nowej szkoły

Władze Kolumbii Brytyjskiej domagają się m.in., aby OpenAI pokryło koszty budowy nowej szkoły Tumbler Ridge Secondary School. Dotychczasowy budynek został wyburzony po ataku.

OpenAI w oświadczeniu dla Business Insidera nazwało strzelaninę „niewyobrażalną tragedią” i zadeklarowało współpracę z władzami oraz dalszy rozwój działań związanych z bezpieczeństwem.

Pozew prowincji to odrębna sprawa od pozwów składanych przez ocalałych oraz rodziny ofiar. Jak podaje Business Insider, do początku września przeciwko OpenAI złożono ponad 30 podobnych pozwów związanych z tym atakiem.

Raport: ChatGPT dla nastolatków „nieakceptowalne ryzyko”

Do tego dochodzi raport Common Sense Media, w którym organizacja ostrzega, że ChatGPT dla nastolatków może stwarzać zbyt duże zagrożenie dla młodych użytkowników. Wersję dla osób w wieku 13–17 lat OpenAI wprowadziło w sierpniu jako domyślną.

Badania przeprowadzone przez Youth AI Safety Institute wykazały problemy z mechanizmami bezpieczeństwa. W testowanych przypadkach ChatGPT zbyt późno informował rodziców o niepokojących rozmowach dotyczących samobójstwa, samookaleczeń czy zaburzeń odżywiania, a w niektórych przypadkach nie robił tego wcale. Chatbot nie zawsze sugerował również kontakt ze specjalistą lub linią kryzysową.

Common Sense Media przeprowadziło ponad 4 tys. testów, a odpowiedzi chatbota analizowali psychiatrzy dziecięcy oraz pediatra. Organizacja przyznała ChatGPT dla nastolatków ocenę „nieakceptowalne ryzyko” i wezwała OpenAI do wstrzymania promocji produktu do czasu poprawy zabezpieczeń.

Raport zwraca też uwagę na automatyczne rozpoznawanie wieku użytkowników. OpenAI zapowiadało, że ChatGPT ma przełączać się na tryb dla nastolatków, gdy wykryje osobę w wieku 13–17 lat. Według Common Sense Media w testach deklarowanie pełnoletności nie uruchamiało jednak automatycznie tej zmiany. Firma odpowiadała, że system analizuje wiele sygnałów w dłuższym okresie, a samo oświadczenie użytkownika nie wystarcza do zmiany klasyfikacji.

OpenAI zakwestionowało metodologię raportu. Firma wskazała, że część testów mogła zostać przeprowadzona przed zakończeniem wdrażania kontroli rodzicielskiej, i poprosiła o powtórzenie badań. Robbie Torney z Youth AI Safety Institute odpowiedział, że organizacja podtrzymuje metodologię i wyniki, a nowe informacje nie zmieniają wniosku o niewiarygodności powiadomień w sytuacjach kryzysowych.

ChatGPT ma ponad 1,2 mld użytkowników. Wersja dla nastolatków była jedną z odpowiedzi firmy na rosnącą krytykę dotyczącą wpływu jej produktów na zdrowie psychiczne i rozwój poznawczy młodych ludzi. OpenAI deklaruje, że jest w pełni zaangażowane w bezpieczeństwo nastolatków, rozwój zabezpieczeń i udostępnianie rodzicom skutecznych narzędzi do nadzoru nad korzystaniem z AI.