Meta uruchamia nowe zabezpieczenia dla nastolatków korzystających z Meta AI. Rodzice objęci nadzorem rodzicielskim na Instagramie otrzymają alert, gdy rozmowa dziecka z chatbotem będzie wskazywać na możliwe myśli samobójcze lub ryzyko samookaleczenia.
Każda rozmowa oznaczona przez system AI ma zostać sprawdzona przez człowieka przed wysłaniem powiadomienia. Meta zapowiada również możliwość alarmowania służb ratunkowych, gdy rozmowa użytkownika będzie wskazywać na bezpośrednie zagrożenie życia.
Rodzice otrzymają alert po rozmowie nastolatka z Meta AI
Meta AI już wcześniej kierowało nastolatków do telefonów zaufania i zachęcało ich do kontaktu z rodzicem, pedagogiem lub inną zaufaną osobą. Teraz firma chce dodatkowo informować rodziców, gdy rozmowa może świadczyć o poważnym kryzysie psychicznym dziecka.
Specjalny system AI ma wykrywać zarówno jednoznaczne, jak i bardziej subtelne odniesienia do samobójstwa lub samookaleczenia. Przed wysłaniem alertu oznaczona rozmowa zostanie ręcznie zweryfikowana. Meta przyznaje, że w niejednoznacznych przypadkach zamierza działać ostrożnie, dlatego część powiadomień może okazać się fałszywym alarmem.
Rodzice otrzymają również materiały przygotowane przez ekspertów, które mają pomóc im rozpocząć rozmowę z nastolatkiem i znaleźć odpowiednie wsparcie. Firma podkreśla, że celem nie jest karanie dziecka ani nagłe przerywanie rozmowy z chatbotem, lecz jak najszybsze skierowanie go do pomocy poza internetem.
Meta AI może zawiadomić służby ratunkowe
Meta pracuje także nad mechanizmem umożliwiającym kontakt ze służbami ratunkowymi, gdy rozmowa dorosłego lub nastolatka z Meta AI będzie wskazywać na bezpośrednie ryzyko odebrania sobie życia.
Firma stosuje już podobne procedury na Facebooku i Instagramie. Gdy moderatorzy uznają, że opublikowana treść wskazuje na wiarygodne zagrożenie, Meta może przekazać informację odpowiednim służbom. Według firmy w ubiegłym roku przeprowadzono w ten sposób ponad 19 tys. zgłoszeń na całym świecie.
Nowe rozwiązanie budzi jednak pytania o prywatność rozmów z chatbotem, zakres ręcznej analizy treści i kryteria oceny ryzyka. Meta przekonuje, że bezpieczeństwo użytkownika powinno mieć pierwszeństwo, gdy pojawiają się sygnały wskazujące na możliwe zagrożenie życia.
Rozmowy nastolatków z AI będą bardziej ograniczone
Meta konsultowała sposób działania chatbota z ponad 75 specjalistami zajmującymi się zdrowiem psychicznym młodzieży. Eksperci analizowali setki odpowiedzi generowanych przez Meta AI i oceniali, czy chatbot właściwie reaguje na rozmowy dotyczące samobójstwa oraz samookaleczenia.
Firma chce, aby Meta AI nie kończyło takich rozmów zbyt gwałtownie, ale jednocześnie jasno kierowało nastolatka do realnego wsparcia. Domyślnie konta młodzieżowe pozostaną objęte ustawieniem treści odpowiednim dla osób od 13. roku życia, które ogranicza między innymi rozmowy o alkoholu, seksie i relacjach romantycznych.
Rodzice będą mogli dodatkowo włączyć tryb Limited Content. Po jego uruchomieniu Meta AI odmówi odpowiedzi na szerszy zakres potencjalnie nieodpowiednich pytań. Alerty dotyczące rozmów o samobójstwie i samookaleczeniu działają już w Stanach Zjednoczonych, Wielkiej Brytanii, Australii i Kanadzie. Globalne wdrożenie zaplanowano do końca 2026 roku.
Źródło: Meta – oficjalny komunikat.
Dziękujemy za przeczytanie artykułu na Techoteka.pl.
Publikujemy codziennie informacje o sztucznej inteligencji, nowych technologiach, IT oraz rozwoju agentów AI.
Obserwuj nas na Facebooku, aby nie przegapić kolejnych artykułów.
