W miarę jak firmy przyspieszają rozwój coraz bardziej zaawansowanych systemów sztucznej inteligencji, narasta obawa: organizacje stojące za tym postępem mogą nie być odpowiednio przygotowane do zarządzania ryzykiem, które się z tym wiąże. Najnowsza edycja AI Safety Index, publikowana przez Future of Life Institute, przedstawia alarmującą ocenę branży. Według raportu wiele wiodących laboratoriów AI znacząco odstaje od podstawowych standardów bezpieczeństwa i odpowiedzialności.

Indeks ocenił osiem głównych firm zajmujących się sztuczną inteligencją, w tym Anthropic, OpenAI, Google DeepMind, Meta, xAI oraz kilka rozwijających się chińskich firm, takich jak Z.ai, DeepSeek i Alibaba Cloud. Każda z nich została oceniona w oparciu o 35 wskaźników w sześciu kategoriach: ocena ryzyka, formalne ramy bezpieczeństwa, aktualne szkody, przygotowanie na ryzyko długoterminowe, nadzór i odpowiedzialność oraz udostępnianie informacji.

Wyniki są niepokojące. Nawet najlepiej oceniane firmy osiągnęły jedynie marginalne wyniki powyżej poziomu zdawalności: Anthropic i OpenAI uzyskały ocenę C+, Google DeepMind C, a pozostałe – Meta, xAI, DeepSeek, Z.ai i Alibaba Cloud – D lub niższą, z poważnymi lukami w wielu kategoriach. W obszarze bezpieczeństwa egzystencjalnego, czyli przygotowania na najgorsze scenariusze związane z przyszłymi, bardziej zaawansowanymi systemami AI, wszystkie firmy uzyskały D lub niższą ocenę. Żadna z ocenianych firm nie przedstawiła wiarygodnego planu radzenia sobie z utratą kontroli lub nadużyciem przyszłych systemów.

Raport wskazuje na rosnącą lukę między możliwościami technicznymi a zarządzaniem bezpieczeństwem. Podczas gdy firmy rywalizują o budowę modeli najnowszej generacji i ich szybkie wdrażanie na globalnych rynkach, praktyki bezpieczeństwa — w tym przejrzystość, odpowiedzialność i zarządzanie ryzykiem długoterminowym — pozostają daleko w tyle.

Co jest stawką?

Brak odpowiednich praktyk bezpieczeństwa to nie teoria. Słabe zarządzanie ryzykiem już przyczyniło się do realnych szkód: ataków cybernetycznych z wykorzystaniem AI, kampanii dezinformacyjnych, niewłaściwego użycia deepfake’ów czy szkodliwych interakcji z wrażliwymi użytkownikami. Raport podaje przykłady, w których systemy generatywnej AI były powiązane z problemami psychicznymi i zachowaniami samobójczymi, co podkreśla pilną potrzebę wzmocnienia zabezpieczeń.

Drugim poważnym problemem jest brak odpowiedzialności i przejrzystości. Wiele firm nie publikuje kompleksowych ram oceny ryzyka, nie zapewnia ochrony dla sygnalistów ani nie publikuje regularnych, zewnętrznych audytów bezpieczeństwa. W niektórych przypadkach brakuje jasnej struktury nadzoru określającej, kiedy rozwój powinien zostać spowolniony lub wstrzymany. Bez weryfikowalnych mechanizmów bezpieczeństwa, zaufanie publiczne — a nawet bezpieczeństwo społeczeństwa — są zagrożone.

Najważniejszym jednak problemem jest przygotowanie na ryzyko egzystencjalne. Kilka firm otwarcie deklaruje ambicję stworzenia sztucznej inteligencji ogólnej (AGI), ale żadna nie przedstawiła wiarygodnego planu zapewnienia kontroli nad systemami, które mogą przewyższyć człowieka w kluczowych dziedzinach. Jak wskazują eksperci, jest to niepokojące: firmy, których liderzy ostrzegają przed katastroficznymi skutkami, często nie są przygotowane na ich przeciwdziałanie.

Wzorzec w całej branży

To nie pierwszy raport zwracający uwagę na luki w bezpieczeństwie. Niezależne badania wielokrotnie wykazywały, że firmy AI priorytetowo traktują rozwój możliwości technologicznych i szybkie wdrożenia kosztem systematycznego zarządzania ryzykiem.

Analiza opublikowanych ram bezpieczeństwa pokazuje, że nawet najbardziej szczegółowe z nich spełniają jedynie niewielką część wymogów skutecznego zarządzania ryzykiem. Brak elementów takich jak określone tolerancje ryzyka, mierzalne progi bezpieczeństwa czy proces wykrywania nieznanych zagrożeń jest powszechny w całej branży.

Jednocześnie badania deweloperów korzystających z modeli wstępnie wytrenowanych wykazują niespójne praktyki bezpieczeństwa w dalszym wykorzystaniu systemów. Deweloperzy zdają sobie sprawę z problemów takich jak wycieki danych, uprzedzenia czy brak odpowiedniej dokumentacji, jednak niewielu stosuje jednolite standardy. Bez wytycznych ze strony głównych laboratoriów AI ryzyko może rozprzestrzeniać się w całym ekosystemie.

Co należy zmienić

Raport AI Safety Index oraz rekomendacje ekspertów wskazują kilka kluczowych działań:

• Niezależne audyty bezpieczeństwa przeprowadzane przez strony trzecie w celu weryfikacji deklaracji firm.
• Jasne, ilościowe progi ryzyka i określenie warunków wstrzymania wdrożeń modeli najnowszej generacji.
• Publiczne udostępnianie ram bezpieczeństwa, raportów incydentów, kanałów dla sygnalistów oraz wyników zewnętrznych audytów.
• Struktury nadzoru proporcjonalne do ambicji: firmy dążące do AGI powinny stosować standardy bezpieczeństwa podobne do tych w branżach wysokiego ryzyka, np. w energetyce jądrowej czy lotnictwie.

Bez takich działań branża pozostaje na niebezpiecznej ścieżce: szybki rozwój technologii przy pozostawieniu społeczeństwa i gospodarki narażonymi na błędy, nadużycia i katastrofalne skutki.

Innowacja a odpowiedzialność

Ostatnie lata przyniosły niezwykły postęp w AI, który zmienia przemysły i zwiększa ludzkie możliwości. Jednak wyniki najnowszego AI Safety Index jasno pokazują: tempo i szum medialny nie mogą przewyższać bezpieczeństwa i nadzoru.

Pytanie nie brzmi już, czy AI przyniesie korzyści — już je przynosi. Prawdziwe pytanie dotyczy tego, czy firmy wiodące w rewolucji AI przyjmą praktyki zarządzania ryzykiem wystarczająco silne, aby chronić społeczeństwo, klientów i własne interesy długoterminowe.

Luka w bezpieczeństwie zidentyfikowana w grudniu 2025 roku to nie tylko kwestia techniczna. To wyzwanie związane z zarządzaniem o globalnych konsekwencjach. Jeśli nie zostanie zaadresowane, może doprowadzić do jednych z najbardziej znaczących awarii w historii współczesnej technologii.

Źródła:

• Future of Life Institute – AI Safety Index: https://futureoflife.org/wp-content/uploads/2025/12/AI-Safety-Index-Report_011225_Full_Report_Digital.pdf
• NBC News: https://www.nbcnews.com/tech/tech-news/top-ai-companies-safety-practices-fall-short-says-new-report-rcna246143
• Computing: https://www.computing.co.uk/news/2025/ai/top-ai-companies-failing-on-safety
• Euronews: https://www.euronews.com/next/2025/12/03/ai-less-regulated-than-sandwiches-as-tech-firms-race-toward-superintelligence-study-says
• The Guardian: https://www.theguardian.com/technology/2025/jul/17/ai-firms-unprepared-for-dangers-of-building-human-level-systems-report-warns
• Yahoo News: https://www.yahoo.com/news/articles/ai-companies-safety-practices-fail-110223788.html
• IEEE Spectrum: https://spectrum.ieee.org/ai-safety-standards-gap
• arXiv – badania nad bezpieczeństwem AI: https://arxiv.org/abs/2512.00001