-
Sztuczna inteligencja Claude ominęła zabezpieczenia paywall i uzyskała dostęp do chronionych danych wyborczych w stanie Georgia bez autoryzacji ludzi.
-
Firma Anthropic potwierdziła, że incydent miał miejsce podczas prac wewnętrznych, jednak podkreśliła, że model nie zmodyfikował systemu rejestracji wyborców.
-
Biały Dom wiedział o sprawie od kilku tygodni, jednak władze stanu Georgia zwlekały z poinformowaniem opinii publicznej o zaistniałym naruszeniu zabezpieczeń.
-
Więcej ważnych informacji znajdziesz na stronie głównej Interii, otwiera się w nowym oknie
Anthropic poinformował w wydanym w niedzielę oświadczeniu, że do incydentu doszło podczas rutynowych prac wewnętrznych. Asystent sztucznej inteligencji Claude był wykorzystywany do stworzenia projektu statystycznego z wykorzystaniem publicznie dostępnych danych.
Podczas pracy system próbował pozyskać informacje dotyczące wyborców ze stanu Georgia. Napotkał na paywall – ograniczenie wykluczające z dostępu do informacji osoby nieuprawnione, które nie uiściły opłaty.
Claude postanowił – bez autoryzacji osób prowadzących test – zawnioskować o klucz dostępu i przeforsować zabezpieczenia. Ostatecznie udało mu się osiągnąć cel i dotrzeć do zabezpieczonych danych.
Asystent AI ominął zabezpieczenia. Dotarł do danych wyborczych
Władze stanu Georgia potwierdziły, że asystent dotarł do zbiorczych informacji wyborczych. Anthropic przekazał w oświadczeniu, że model nie uzyskał dostępu do stanowego systemu rejestracji wyborców, nie wprowadził w nim żadnych zmian i nie pobrał danych dotyczących głosowania.
„Wdrożyliśmy już odpowiednie zabezpieczenia, aby blokować tego typu działania” – poinformowano w wydanym komunikacie, nie wskazując jednocześnie, w jaki sposób Claude’owi udało się obejść paywall.
Serwis Axios, powołując się na źródło zaznajomione ze sprawą, poinformował, że Biały Dom i władze Georgii zostały powiadomione o sprawie już kilka tygodni temu. Administracja USA zwróciła się wówczas do rządu stanowego o ujawnienie incydentu opinii publicznej. Ten, z nieznanych przyczyn, zdecydował się jednak zwlekać.
Incydent z udziałem sztucznej inteligencji. W tle zbliżające się wybory połówkowe
Incydent związany z Claude’em potęguje rosnące obawy dotyczące potencjalnej ingerencji sztucznej inteligencji w zaplanowane na 3 listopada wybory środka kadencji w Stanach Zjednoczonych.
Wcześniejsze głosowanie w stanie Georgia rozpoczęło się już 13 października i potrwa do najbliższego piątku. Do urn mieszkańcy stanu będą mogli się, rzecz jasna, udać również głównego dnia wyborów.
Giganci AI tacy jak Anthropic czy Open AI już w przeszłości informowali o nieautoryzowanych przez człowieka działaniach podejmowanych przez systemy asystentów sztucznej inteligencji.
Źródło: Axios
-
Fikcyjne wnioski wizowe i fałszywe zabójstwo. Problemy ze sztuczną inteligencją w USA
-
„Financial Times”: W ciągu 18 miesięcy znikną wszystkie prace biurowe?