Eliminacja fake newsów nie polega jedynie na wykorzystaniu technologii. To także ludzie – ich edukacja, rzetelne informowanie i połączone działania wielu stron na rzecz rozwoju świadomości i kompetencji cyfrowych wszystkich użytkowników Sieci. Stawiając kolejny krok w kierunku społeczeństwa prawdziwie informacyjnego, Microsoft przedstawia dwie nowe technologie mające na celu zwalczanie szerzącej się w Internecie dezinformacji.
Jednocześnie firma prezentuje szereg działań mających na celu pomoc w edukacji społeczeństwa na temat tego problemu.
Nikt nie ma wątpliwości co do tego, że nieprawdziwe informacje stają się coraz bardziej powszechne. Zaktualizowane w tym miesiącu i wspierane przez Microsoft badania profesora Jacoba Shapiro z Princeton, katalogują 96 kampanii w mediach społecznościowych nastawionych na wywieranie wpływu, prowadzonych w 30 krajach w latach 2013-2019. Miały one na celu zniesławienie wybitnych ludzi, przekonanie opinii publicznej lub spolaryzowanie debaty. Aż 26% tych kampanii skierowanych było do obywateli USA. Inne kraje, które znalazły się na celowniku to m.in. Armenia, Australia, Brazylia, Kanada, Francja, Niemcy, Holandia, Polska, Arabia Saudyjska, RPA, Tajwan, Ukraina, Wielka Brytania czy Jemen. Około 93% kampanii obejmowało tworzenie treści oryginalnych, 86% wzmacniało wcześniej istniejące treści, a 74% zniekształcało obiektywnie weryfikowalne fakty. Ostatnie doniesienia pokazują również, że rozpowszechniono dezinformację o pandemii COVID-19, która doprowadziła do zgonów i hospitalizacji osób poszukujących rzekomych lekarstw, które są w rzeczywistości niebezpieczne.
Ogłoszone nowości na polu walki z dezinformacją w sieci są ważną częścią programu Microsoft Defending Democracy Program. Oprócz walki z dezinformacją, program trzyma pieczę nad procedurą głosowania za pośrednictwem ElectionGuard, a także zabezpiecza kampanie i osoby zaangażowane w proces rozwoju demokracji za pośrednictwem AccountGuard, Microsoft 365 dla Kampanii Wyborczych oraz Election Security Advisors. Jest to również część szerszych działań na rzecz ochrony i promocji dziennikarstwa, o czym wspomnieli Brad Smith i Carol Ann Browne w materiale “ Zmierzch dekady: dziesięć głównych zagadnień dotyczących polityki technologicznej na rok 2020“.
Nowa technologia wspierająca “prawdę” w sieci
Dezinformacja przybiera wiele różnych form i przez to żadna pojedyncza technologia nie rozwiąże wyzwania, jakim jest pomoc ludziom w rozróżnieniu tego, które informacje są prawdziwe i uczciwe. Dlatego też Microsoft prowadzi prace nad dwiema odrębnymi technologiami, aby rozwiązać różne aspekty tego problemu.
Jednym z głównych problemów są tzw. deep fake’i, czyli media „generowane przez AI” – zdjęcia, filmy lub pliki audio manipulowane przez sztuczną inteligencję (AI) w sposób trudny do wykrycia. Mogą one sprawiać wrażenie, że występujące na nich osoby mówią lub robią rzeczy, których nie robili lub są w miejscach, w których faktycznie nie byli. To, że te materiały są generowane przez AI, która może stale się uczyć robić to lepiej, wzmacnia ich zdolność do pokonania konwencjonalnej technologii wykrywania fałszerstw na tym polu. Jednak już w krótkiej perspektywie, na przykład podczas zbliżających się wyborów w Stanach Zjednoczonych, zaawansowane technologie detekcji mogą być użytecznym narzędziem pomagającym użytkownikom w identyfikacji prawdziwości materiałów.
Dlatego już teraz przedstawiamy Microsoft Video Authenticator. Aplikacja pozwala analizować zdjęcia lub filmy wideo, wskazując procentową szansę sztucznej manipulacji danego materiału. W przypadku filmu wideo, rozwiązanie może określić wartość procentową manipulacji w czasie rzeczywistym na każdej klatce nagrania podczas odtwarzania filmu. Wykrywa ono granicę mieszania się materiałów deep fake i subtelnych „zanikających elementów”, które mogą być niewykrywalne dla ludzkiego oka.
Technologia ta została pierwotnie opracowana przez departament Microsoft Research we współpracy z zespołem Microsoft ds. odpowiedzialnej sztucznej inteligencji oraz Komitetem ds. etyki i efektów AI w inżynierii i badaniach (AETHER), który jest radą doradczą Microsoft i pomaga w odpowiedzialnym rozwoju i wdrażaniu nowych technologii. Video Authenticator został stworzony przy użyciu publicznego zestawu danych z Face Forensic++ i był testowany w ramach DeepFake Detection Challenge Dataset, wiodących modeli szkolenia i testowania technologii wykrywania technologii deep fake.
Microsoft udostępnił również technologię, która może zarówno wykryć manipulowane treści, jak i zapewnić ludzi, że oglądane przez nich media są autentyczne. Składa się ona z dwóch elementów. Pierwszy to narzędzie wbudowane w Microsoft Azure, które umożliwia producentowi treści dodawanie cyfrowych znaków i certyfikatów do treści. Cyfrowe skróty i certyfikaty są następnie wykorzystywane jako metadane wszędzie tam, gdzie są dostępne w Internecie. Drugi to czytnik – który może istnieć jako rozszerzenie przeglądarki lub w innych formach – który sprawdza certyfikaty i dopasowuje je do cyfrowego znaku, dając użytkownikom sygnał, że zawartość jest autentyczna i nie została zmieniona, a także podając szczegóły dotyczące tego, kto ją stworzył z dużą dokładnością.
Technologia ta została stworzona przez zespół Microsoft Research i Microsoft Azure we współpracy z programem Defending Democracy. Będzie ona zasilać inicjatywę ogłoszoną niedawno przez BBC o nazwie Project Origin.
Nowe partnerstwa na rzecz transparentności Sieci
Żadna pojedyncza organizacja nie będzie w stanie wywrzeć znaczącego wpływu na walkę z dezinformacją i oszustwami w sieci. Microsoft dokłada wszelkich starań, aby pomóc na tym polu, ale charakter wyzwania wymaga powszechnego przyjęcia technologii, oraz edukacji docierającej do konsumentów wszędzie i w sposób spójny. Konieczne jest również to, żeby uczestnicy działań mogli dowiedzieć się więcej na temat wyzwań w miarę ich rozwoju.
Po pierwsze, Microsoft współdziała z Fundacją Sztucznej Inteligencji (AI Foundation), przedsiębiorstwem komercyjnym i jednocześnie organizacją non-profit z siedzibą w San Francisco, którego misją jest przybliżenie możliwości i ochrony przed Sztuczną Inteligencją wszystkim ludziom na świecie. Poprzez to partnerstwo, inicjatywa AI Foundation Reality Defender 2020 (RD2020) udostępni video authenticator organizacjom zaangażowanym w proces rozwoju demokracji, w tym punktom informacyjnym i sztabom prowadzącym kampanie polityczne. Video Authenticator będzie początkowo dostępny tylko poprzez RD2020, który poprowadzi organizacje przez ograniczenia i względy etyczne właściwe dla każdej technologii wykrywania materiałów typu deep fake. Kampanie i dziennikarze zainteresowani informacjami na ten temat mogą kontaktować się z RD2020 tutaj.
Microsoft nawiązał także współpracę z konsorcjum koncernów medialnych, w tym BBC, CBC/Radio-Canada i New York Times w ramach Project Origin. Przetestują one technologię potwierdzania autentyczności i pomogą rozwijać ją jako standard, który może być przyjęty na szeroką skalę. W rozwój technologii zaangażowała się także Trusted News Initiative, w skład której wchodzi szereg wydawców i firm z branży mediów społecznościowych.
Umiejętności świadomego korzystania z mediów
Microsoft współpracuje również z University of Washington (UW), Sensity i USA Today w zakresie umiejętności korzystania z mediów. Poprawa umiejętności na tym polu pomoże ludziom odfiltrować dezinformację od faktów i odpowiednio „zarządzać” ryzykiem stwarzanym przez technologię deep fake.
Firma uruchamia także interaktywny quiz dla wyborców w Stanach Zjednoczonych, aby mogli dowiedzieć się więcej o mediach syntetycznych, rozwinąć krytyczne umiejętności w zakresie umiejętności korzystania z mediów i zyskać świadomość wpływu mediów syntetycznych na demokrację. Quiz “Spot the Deepfake” to interaktywne narzędzie w zakresie umiejętności korzystania z mediów, opracowane we współpracy z UW Center for an Informed Public, Sensity i USA Today. Quiz będzie dystrybuowany w sieci i w mediach społecznościowych należących do USA Today, Microsoftu i Uniwersytetu Waszyngtońskiego oraz poprzez reklamę w mediach społecznościowych.
Dodatkowo, we współpracy z Radio Television Digital News Association, The Trust Project oraz Center for an Informed Public and Accelerating Social Transformation Program przy Uniwersytecie Waszyngtona, Microsoft wspiera kampanię informacyjną w mediach społecznościowych (PSA). Zachęca ona ludzi do zrobienia tzw. “pauzy na zastanowienie” i sprawdzenie czy informacje pochodzą od wiarygodnych organizacji informacyjnych, zanim podzielą się nimi lub wypromują je w mediach społecznościowych przed nadchodzącymi wyborami w USA. Kampania PSA pomoże ludziom lepiej zrozumieć szkody, jakie dezinformacje mają dla naszej demokracji. Reklamy będą emitowane w stacjach radiowych w Stanach Zjednoczonych we wrześniu i październiku.
W ostatnich miesiącach Microsoft rozszerzył również wdrożenie NewsGuard, który pozwala ludziom dowiedzieć się więcej o internetowym źródle informacji. NewsGuard prowadzi zespół doświadczonych dziennikarzy, którzy oceniają internetowe serwisy informacyjne w oparciu o dziewięć kryteriów rzetelności dziennikarskiej, które wykorzystują do stworzenia zarówno “znaku wartości merytorycznej“, jak i czerwonej/zielonej oceny każdej ocenianej strony internetowej. Dostęp do serwisu NewsGuard można uzyskać, pobierając proste rozszerzenie przeglądarki, które jest dostępne dla wszystkich standardowych przeglądarek. Jest ono bezpłatne dla użytkowników przeglądarki Microsoft Edge. Co ważne, Microsoft nie ma kontroli redakcyjnej nad żadną oceną NewsGuard, a rozszerzenie przeglądarki NewsGuard nie ogranicza w żaden sposób dostępu do informacji. Zamiast tego NewsGuard ma na celu zapewnienie większej przejrzystości i zachęcanie do korzystania z mediów poprzez dostarczenie ważnego kontekstu na temat samego źródła wiadomości.
Współpraca na agendzie rządowej
Rządy, przedsiębiorstwa, organizacje pozarządowe i inne podmioty na całym świecie mają do odegrania kluczową rolę w szeroko pojętym rozwiązywaniu problemu dezinformacji i ingerencji w wybory. W 2018 r. w ramach inicjatywy Paris Call for Trust & Security in Cyberspace zebrała się wielostronna grupa światowych liderów, którzy zobowiązali się do przestrzegania dziewięciu zasad pomagających w zapewnieniu pokoju i bezpieczeństwa w Internecie. Jedną z najbardziej istotnych jest ochrona procesu wyborczego. W maju Microsoft, Alliance for Securing Democracy i rząd Kanady podjęły starania, aby przewodzić globalnym działaniom na rzecz tej zasady.