Sztuczna inteligencja, jak już parokrotnie pisałem na blogu, niesie ze sobą ogrom szans, ale też dużo zagrożeń. Tym ostatnim też chciałbym poświęcić więcej uwagi i zarysować, jak potencjalnie możemy im przeciwdziałać. Dziś skupię się na szerzeniu nieprawdziwych i krzywdzących informacji (np. z uwagi na brak kontekstu).
Zacznę od wątku, który na pierwszy rzut oka może się wydawać nieco zaskakujący w kontekście AI.
AI i procesy społeczno-polityczne
Demokracja liberalna mogła rozpowszechnić się dzięki komunikacji masowej. Na dobrą sprawę początki mass mediów sięgają rewolucji przemysłowej i stopniowo trend ten nabierał rozpędu: przez erę tzw. mediów tradycyjnych na obecnej wszechobecności internetu kończąc (patrzę z perspektywy świata zachodniego). Nad szczegółami można polemizować, ale przynajmniej do pewnego stopnia w parze z komunikacją masową szło zaufanie, że rozprzestrzeniany przekaz był prawdziwy (w rzeczywistości oczywiście bywało różnie). To z kolei zapewniało względnie stabilne czasy zwłaszcza w tych częściach globu, gdzie demokracja liberalna obowiązywała.
Co jednak będzie, gdy w związku z rozwojem AI zaczniemy jeszcze bardziej tracić zaufanie do komunikacji? Czy nie stanowi to zagrożenia dla demokracji?
Sztuczna inteligencja jak nic wcześniej może szerzyć dezinformację. Nie mam na myśli tylko modeli językowych generujących teksty czy systemów tworzących deep fake’i. Chodzi mi też o wykorzystanie AI do zarządzania botami, aby optymalnie rozsiewać przekaz np. w social mediach. Uważam, że zagrożeniem, które warto wziąć pod uwagę w przyszłości, jest wykorzystanie AI do mocno stargetowanej dezinformacji. W szczegółach: chodzi nie tylko o dobrze dopasowane do odbiorców informacje fałszywe, ale też takie, które są prawdziwe, ale bez kontekstu można je odczytać błędnie.
Problem tkwi nie tylko w generowaniu i rozpowszechnianiu danych, ale może też dotyczyć danych, na których modele są uczone.
Dezinformacja kontra biznes
Szerzenie nieprawdziwych informacji będzie uderzać w biznes. Korzyści jest dużo – chociażby to, że na wahaniach kursów akcji można sporo zarobić. Według Gartnera, w najbliższych latach firmy istotnie zwiększą budżety związane z cyberbezpieczeństwem i marketingiem stricte na skutek rosnących zagrożeń wynikających z rozwoju AI.
Firmy będą musiały być przygotowane na sytuacje kryzysowe i najlepiej, jeśli zadziałają na co najmniej trzech płaszczyznach:
- zbudują solidną podstawę dla swojego wizerunku, dzięki czemu trudniej będzie naruszyć reputację;
- będą gotowe do podejmowania szybkich działań, aby zwalczać nieprawdziwe informacje;
- dołożą starań, aby wdrażać coraz lepsze zabezpieczenia przed cyberatakami i realnie przygotują swoich pracowników pod kątem dbania o cyberbezpieczeństwo.
W związku z walką z dezinformacją przewiduję rozwój zaawansowanych narzędzi do uwierzytelniania wiadomości rozpowszechnianych przez firmy (więcej na ten temat poniżej). Zakładam też rozwój istniejących i pojawienia się nowych rozwiązań do monitorowania internetu. Będą one zdolne do oceny sentymentu, podobnie jak już robi to Brand24, oraz do dostrzegania subtelnych wzorców i anomalii wskazujących na fałszywe informacje. To wszystko umożliwi szybsze i skuteczniejsze reagowanie na kampanie dezinformacyjne.
Przypuszczalnie będziemy odchodzić od wyszukiwarek na rzecz usług informacyjnych przypominających chatboty. Trend ten może otworzyć drzwi do współpracy z twórcami chatbotów, potencjalnie zmieniając przyszłość reklamy i SEO.
Ważne jest także wypracowanie firmowych procedur dotyczących korzystania z narzędzi AI. Chodzi mi nie tylko o (nie)udostępnianie w promptach informacji poufnych. Przede wszystkim na tym etapie ważna jest nieufność wobec zwracanych przez chatboty odpowiedzi i po prostu ich weryfikowanie. Jeśli ludzie będą bezmyślnie korzystać z AI, na nic nam najlepsze procedury i zabezpieczenia.
Konwersacje – tak, ale głównie między ludźmi
Aby przeciwdziałać niebezpiecznym trendom związanym z AI, musimy także mieć pewność, że konwersacje, np. w social mediach, odbywają się pomiędzy ludźmi.
Możliwe, że internet przyszłości nie będzie tak anonimowy jak teraz (jednocześnie nie twierdzę, że jest). Nie wykluczone, że coraz częściej, aby utworzyć konto, będziemy potrzebowali potwierdzić numer telefonu (który może służyć też do dwuetapowej autentykacji, co podnosi bezpieczeństwo). Nie zdziwiłyby mnie jednak bardziej zaawansowane metody.
W Polsce w odniesieniu do ePUAP (Elektroniczna Platforma Usług Administracji Publicznej) jedną z opcji potwierdzających naszą tożsamość jest zalogowanie się za pośrednictwem systemu bankowego. Przekazuje on nasze dane i nas uwierzytelnia. Kiedyś sporo mówiło się o OpenID, które do pewnego stopnia przetrwało – rolę usługi potwierdzającej pełni np. konto Google. Możliwe zatem, że dalszy rozwój w tym kierunku to szansa na zmniejszenie liczby botów. Czy do zera – zapewne nie.
Chronienie serwisów przed aktywnością botów i stosowanie potwierdzonych profilów – patrząc z perspektywy przestępców – zwiększa katalog korzyści wynikający z kradzieży tożsamości i przejmowania kont. A zatem: jeszcze bardziej będziemy musieli dbać o swoje bezpieczeństwo w sieci.
Aby zapobiec kradzieży tożsamości i przejęciu kont, dbaj o swoje bezpieczeństwo online. Używaj menedżerów haseł, a same hasła niech będą silne i unikalne.
Czasem jednak obecność botów jest konieczna lub przydatna. Wówczas związane z nimi konta mogłyby (i powinny) być odpowiednio oznaczane.
Wiarygodna informacja będzie w cenie
Ważne jest zadbanie także o treści dziennikarskie. Już teraz serwis X (dawny Twitter) dodaje komentarze do niektórych postów, które na bazie wiarygodnych źródeł nakreślają kontekst. Podejrzewam, że ten trend będzie postępował, jednak taki mechanizm nie jest wystarczający.
Sporo się mówi o oznaczaniu treści wygenerowanych przez sztuczną inteligencję. To w pewnych zastosowaniach ma sens – gdy mówimy np. o plikach multimedialnych: filmach, zdjęciach i dźwięku. Tu jesteśmy w stanie zaszyć w fali dźwiękowej czy w układzie pikseli informację, że dany materiał stworzyło AI. To, czy taki mechanizm byłby zaimplementowany, zależy od twórców rozwiązań AI. Musieliby oni osiągnąć konsensus co do szczegółów działania takiego mechanizmu.
Jednak w kontekście zwłaszcza tekstu moim zdaniem może bardziej prawdopodobny i uzasadniony byłby trend odwrotny: polegający na oznaczaniu treści stworzonych przez człowieka. Dla zapewnienia większej wiarygodności można by posłużyć się technologią blockchain. (Mam na to konkretny pomysł, tylko skąd czas na to wszystko…)
Możliwe ponadto, że to sztuczna inteligencja będzie wykorzystywana do określania prawdopodobnego pochodzenia informacji/treści. Już teraz działają usługi, które próbują określić, czy dany tekst stanowi plagiat lub został wygenerowany przez jakiś model językowy. Sądzę, że to kwestia czasu, aby takowe rozwiązania powstały np. w kontekście deep fake’ów.
Nadszedł czas zbrojeń
Nie bądźmy naiwni. Po nowoczesne rozwiązania technologiczne sięgają także przestępcy. Co uważam za najważniejsze, aby być przygotowanym na rozpowszechnianie nieprawdziwych informacji, to edukacja. Brzmi trywialnie? Moim zdaniem to obecnie duże wyzwanie, bo wszystko zmienia się bardzo szybko.
Wiedza i świadomość możliwości i ograniczeń pozwoli nam uniknąć zachłyśnięcia się AI i zbytniego opierania się na rezultatach zwracanych przez sztuczną inteligencję. Z kolei znajomość trendów umożliwi stosowanie najlepszych narzędzi, ale co ważniejsze: będzie kształtować naszą wyobraźnię o świecie przyszłości.
Jedną z możliwości, aby być na bieżąco, jest regularna lektura mojego bloga – do czego serdecznie zachęcam. Polecam też subskrypcję newslettera – formularz zapisu znajdziecie poniżej. Zapraszam też do lektury tekstów:
