Żyjemy w czasach, w którym zanim prawda włoży buty, kłamstwo zdąży już obiec cały świat. Tak to już jest, że fałszywa informacja rozchodzi się bardzo szybko, a prawda potrzebuje czasu, aby wyjść na jaw. Nowe narzędzie, czyli sztuczna inteligencja ten problem tylko pogłębia.
Nieprawda jest ciekawa, szokująca i łatwa w odbiorze, dlatego ludzie chętnie i szybko podają ją dalej. Ustalenie faktów wymaga wiedzy, analizy, sprawdzenia źródeł, dowodów i przede wszystkim czasu. AI sprawia, że coraz trudniej jest odróżnić prawdę od fałszu. AI Act ma uporządkować tę sytuację.
Odpowiedzi mogą zawierać błędy. Oznaczanie twórczości algorytmów
Nie każdy ma dobre oko do pikseli i wiedzę wystarczającą do zweryfikowania tego co widzi, słyszy i czyta, a algorytmy są coraz lepsze w produkowaniu treści, w których prawda celowo miesza się z fikcją i kłamstwem.
Korzystający z zasobów internetu człowiek nie może być coraz bardziej bezbronny wobec takiech treści, zwłaszcza, że w wyszukiwarkach małym drukiem i jasną czcionką na stałe dopisano zdanie: „Odpowiedzi wygenerowane przez AI mogą zawierać błędy”.
Od 2 sierpnia dostawcy systemów AI będą musieli wyraźnie informować europejskich użytkowników, że komunikują się ze sztuczną inteligencją. W życie wejdzie także obowiązek oznaczania obrazów, nagrań audio i materiałów wideo wygenerowanych przez sztuczną inteligencję lub przez nią zmanipulowanych, czyli deepfejków. AI Act ma poprawić bezpieczeństwo w sieci.
Ułatwienie dla wyszukiwarek. Obowiązkowa weryfikacja treści przez człowieka
Treści wygenerowane przez AI będą musiały zawierać nie tylko oznaczenia widoczne gołym okiem, ale także oznaczenia techniczne, np. w postaci metadanych zapisanych w pliku. To spore ułatwienie – wyszukiwarki i platformy internetowe wyłapią je automatycznie.
AI Act wprowadził także obowiązek ujawniania, jeśli tekst dotyczący spraw będących przedmiotem zainteresowania publicznego, czyli np. wyborów, został wygenerowany przez sztuczną inteligencję, chyba że opublikowano go pod kontrolą człowieka. Oznacza to, że np. redakcje korzystające z pomocy AI przy tworzeniu treści nie będą musiały o tym informować pod warunkiem, że materiał zostanie zweryfikowany i zatwierdzony przez dziennikarza lub redaktora.
Komisja Europejska zyska uprawnienia do egzekwowania części przepisów wobec dostawców tzw. modeli AI ogólnego przeznaczenia, takich jak ChatGPT, Gemini czy Claude. Na horyzoncie majaczą się już postępowania wyjaśniające, kontrole dokumentów i kary finansowe.