3 Minuty
Apple podobno był o krok od usunięcia Groka z App Store po tym, jak chatbot xAI został powiązany z falą nielegalnych deepfake’owych materiałów pornograficznych, w tym z udziałem nieletnich. Przez kilka nieprzyjemnych dni w styczniu skutki tego zdarzenia szybko rozprzestrzeniły się na platformie X, a milczenie Apple było zauważalne.
Zgodnie z raportem CNBC, na który powołuje się 9to5Mac, Apple ostrzegło xAI, że aplikacja Grok może zostać usunięta, jeżeli problem z generowaniem nagich deepfake’ów nie zostanie rozwiązany. Firma już wcześniej odrzuciła co najmniej jedną aktualizację, zaznaczając, że X tylko częściowo uporał się z szerszym problemem moderacji, podczas gdy sama aplikacja Grok wciąż nie spełniała zasad App Store.
List Apple ujawniony w tym tygodniu nie pozostawiał złudzeń. Po przeanalizowaniu najnowszych zgłoszeń firma poinformowała, że X „w dużej mierze rozwiązał” swoje naruszenia, ale Grok nadal nie spełniał wymagań. Komunikat był jasny: naprawcie problem albo ryzykujecie usunięcie aplikacji.
To ostrzeżenie było istotne. Na platformie X, Elon Musk już wcześniej zaostrzył zasady moderacji po zalewie nielegalnych materiałów seksualnych generowanych przez AI. Mimo to, zmiany w aplikacji Grok były wolniejsze, a użytkownicy szybko odkryli, że część tych samych nadużyć wciąż pozostaje możliwa.
Kiedy blokada staje się wyzwaniem
Sam Musk nie pomagał sytuacji, prowokując innych do próby generowania deepfake’owych nagich zdjęć prawdziwych osób w Groku. Wielu podjęło się tego wyzwania. Od tego czasu filtry bezpieczeństwa zostały zaostrzone, ale nie na tyle, by całkowicie wyeliminować nadużycia. Generowanie problematycznych treści stało się trudniejsze, lecz obejścia nadal istnieją.
Zasady Apple dotyczące treści generowanych przez użytkowników nie zawsze są jednoznaczne, ale moderacja nie jest opcjonalna. W przypadku Groka firma uznała, że częściowa moderacja jest lepsza niż brak jakiejkolwiek i to mogło wystarczyć, by aplikacja pozostała dostępna.
W tym momencie sprawa robi się niewygodna. Apple wielokrotnie usuwało aplikacje przy znacznie mniej alarmujących naruszeniach niż w tym przypadku. Aplikacje z pornografią deepfake były wcześniej cicho usuwane ze sklepu – co najmniej 28 po serii innych zgłoszeń. Jednak gdy aplikacja należy do Elona Muska, procedury zaczynają się komplikować.
Pieniądze. Polityka. Wpływy. Biurokracja. Wybierz dowolny czynnik. W przypadku Muska wszystkie grają rolę naraz.
Istnieje też uporczywy mit, że platforma X jest nie do ruszenia jako ostoja wolności słowa. To nieprawda. Apple zdaje sobie z tego sprawę. Mimo to, firma tym razem wybrała łagodniejsze podejście, pozwalając Grokowi pozostać w App Store po uznaniu aktualizacji za znaczącą poprawę.
Nie do końca wiadomo, co dokładnie się zmieniło. Apple nie sprecyzowało szczegółów, a xAI również nie ujawniło zbyt wiele. Rezultat jest jednak widoczny: aplikacja przetrwała, mimo powiązania z jedną z najgłośniejszych porażek AI w zakresie bezpieczeństwa w tym roku.
Tego typu przypadki sprawiają, że regulatorzy na całym świecie przyglądają się zasadom Apple dotyczącym App Store. Niektóre rządy już postulują, by przegląd aplikacji odbywał się jak zewnętrzny nadzór, a nie tylko ocena wykonywana przez Apple. Po incydencie z Grokiem pomysł ten wydaje się jeszcze bardziej atrakcyjny dla krytyków polityki firmy.
Zostaw komentarz