Media syntetyczne - zagrożenie w epoce AI

Wolności, demokracji, a także zaufaniu do dziennikarstwa coraz częściej szkodzą nowe technologie. Ale nie wszystkie, bo część z nich daje nadzieję na przetrwanie mediów, choć w zmienionej formie. Mimo tego na przestrzeni ostatnich lat pojawiło się wiele zagrożeń, których media stały się niejako ofiarą bądź polem bitwy.

Jednym z takich zagrożeń są media syntetyczne. Modele oparte na sztucznej inteligencji są w tym przypadku zaprzęgnięte do wytworzenia realistycznych zamienników tekstów, obrazów, materiałów wideo i danych, które następnie mogą zostać wykorzystane do oszustw. To w konsekwencji może doprowadzić do szerzenia dezinformacji.

W październiku 2019 roku ciekawy artykuł wprowadzający w ten temat napisała Aldana Vales, która pracowała wówczas dla Wall Street Journal:

AI-based models can now produce and manipulate audiovisuals with an extremely realistic outcome. The result of this process is a new category of images, text, audio, videos, and data generated by algorithms called synthetic media. It is possible to generate faces and places that don’t exist and even create a digital voice avatar that mimics human speech.

Deepfakes and synthetic media are some of the most feared things in journalism today. Indeed, it is very worrisome that people would base their reporting on false information created by AI. In this…