Využití umělé inteligence v médiích a její regulace: Nová éra žurnalistiky a odpovědné informace

Praha, 6. října 2023

Umělá inteligence se stává stěžejním prvkem moderního života, a to i v oblasti médií. Díky neustálému technologickému pokroku jsme svědky nové éry žurnalistiky, která AI využívá k rozšiřování a zpracování informací. S tímto rozvojem vzniká také naléhavá potřeba regulace, která zajistí, že AI v médiích bude využívána zodpovědným způsobem. Právě proto      Aspen Institute Central Europe ve spolupráci s Aspen Digital uspořádal 26. září 2023 v Praze (v návaznosti již druhou) mezinárodní konferenci s názvem Důvěryhodnost informací v době umělé inteligence ze středoevropského pohledu. Již z názvu je patrné, že hlavním tématem bylo využití umělé inteligence v mediální sféře – dopady AI do mediální oblasti a pochopení možností, které AI nabízí pro zajištění důvěryhodnosti médií. Akce hostila odborníky, novináře a regulátory specializující se na oblast AI a technologií. Celou diskusi moderovala novinářka a ředitelka Aspen Digital Vivian Schiller.

Umělá inteligence v médiích poskytuje nespočetné výhody, jako jsou rychlá analýza dat, personalizace obsahu a zvýšení efektivity redakčního procesu. Pomáhá novinářům získat relevantní informace, sledovat trendy a vytvářet lepší obsah pro čtenáře, posluchače, diváky. Proto je dobré vnímat AI jako prostředek, který může novinářům spíše pomoci,  než jako  hrozbu, které by se měli bát. Nejrelevantnější diskusí konference o umělé inteligenci jako nástroji byla její obecná účinnost, nákladová efektivita a regulace.      

Konference byla rozdělena na dva diskuzní panely. Mezi prvními řečníky vystoupili: Charlie Beckett, ředitel The Journalism AI Projet, LSE at The London School of Economics and Political Science, Peter Jančárik, spoluzakladatel Konspiratori.sk, Anti-disinfo officer v Seznam.cz, Tanit Koch, sloupkařka The New European a Michal Pěchouček, technologický ředitel Gen Digital a profesor AI na ČVUT v Praze.

Na druhém panelu diskutovali nad svými zkušenostmi s AI technologiemi Daniel Braun, vedoucí kabinetu místopředsedkyně pro hodnoty a transparentnost v Evropské komisi, Patrick Boehler, zástupce rádia Svobodná Evropa a Johann Laux, Emerging Tech Governance na Oxfordské univerzitě.

Uchopme budoucnost informování: Průvodce efektivním využitím AI v žurnalistice

Technologie má určité funkce, které napomáhají a urychlují výzkum. Panelisté ocenili především funkci archivu AI. „V jakékoli zaznamenané historii – psané, vizuální nebo zvukové – je funkce archivu AI schopna používat klíčové vyhledávací instrukce k identifikaci a vytažení archivů, jejichž nalezení by bez pomoci umělé inteligence trvalo novinářům měsíce. AI je také užitečný hrubý editor návrhů, protože je schopen identifikovat a opravit gramatické chyby a podřadné chyby bez potřeby fyzického editora,“ vysvětluje funkci archivu AI Michal Pěchouček, technologický ředitel Gen Digital a profesor AI na ČVUT v Praze.

V další části diskuse se řečníci věnovali algoritmům, které mohou potlačit obsah navádění na kliknutí a      upřednostňovat faktické a relevantní zprávy. Tato funkce se nazývá doporučovací systém. Jedná se o běžný algoritmus na všech mediálních platformách. Pokud je systém používán eticky, může zachovat důvěryhodnost mediálního webu a udržet informační prostor čistý. Tyto praktické funkce usnadňují práci novinářům a pomáhají mediálním stránkám fungovat efektivněji. Novějšími funkcemi jsou generativní AI a využití jazykových modelů. „Jazykové modely nejsou neomylné, zejména pokud se používají k vytváření vlastních článků nebo výstupů, což vede k dezinformacím a falešným zdrojům. Spíše než umožnit jazykovým modelům generovat vlastní obsah, měly by být tyto modely použity k podpoře již existujícího obsahu,“ vysvětluje Charlie Beckett, ředitel The Journalism AI Projet, LSE at The London School of Economics and Political Science.

Cesta k odpovědné regulaci

Jednou z hlavních výzev je zachování důvěryhodnosti médií. AI může být využívána k manipulaci s informacemi a šíření dezinformací. Proto je nezbytné, aby média a platformy prováděly přísnou regulaci a monitorovaly obsah, který je generován AI. Vytváření transparentních a důvěryhodných standardů je klíčové pro zachování integrity žurnalistiky.

Ačkoli AI může automatizovat některé procesy, lidský faktor a novinářská etika zůstávají nezbytné pro tvorbu kvalitního novinářského obsahu. Evropská komise již zavedla několik nařízení, z nichž dvě byla podrobně diskutována: akt o digitálních službách a akt o umělé inteligenci. „Základním principem prvního aktu je, že to, co je nezákonné v tištěných médiích, musí být nezákonné také v  on-line prostoru. Zatímco druhý akt řeší a monitoruje konkrétní vysoce rizikové použití umělé inteligence. Cílem těchto nařízení je vrátit internet k jeho původním hodnotám: více svobody, více informací a více demokracie,“ říká Daniel Braun, vedoucí kabinetu místopředsedkyně pro hodnoty a transparentnost v Evropské komisi.

V souladu s prvním panelem druhý panel uvedl, že by měl existovat standard, jak může být AI použito proti zneužívání. „AI – nástroje by měly být schopny rozpoznat strojově generovaný obsah a manipulaci. To je možné díky využití umělé inteligence ve správném regulačním rámci. Správné předpisy by měly podporovat důvěryhodné informace a posílit postavení těch, kteří se pohybují v informačním prostředí a snížit výskyt negativních externalit v prostoru,“ hovoří k regulaci Johann Laux, Emerging Tech Governance na Oxfordské univerzitě. Ačkoli se Evropská komise snaží udržet si náskok před technologickým pokrokem s těmito předpisy, je neuvěřitelně komplikované regulovat pohyblivý cíl. „K účinné regulaci umělé inteligence by byla nutná spolupráce mezi zeměmi a vládami a metody by se od sebe neměly příliš lišit. Problém ale vidíme v jednotlivých typech vlád, které by mohly využívat prospěchu z regulací nebo by je mohly zneužívat. Vlády ve svobodných a demokratických zemích by mohly zodpovědně regulace vyžadovat, protože si cení svobody projevu. To však ponechává autoritářské vlády v pochybnostech,“ uzavírá téma regulace Patrick Boehler, zástupce rádia Svobodná Evropa.

Shrnutí hlavních tezí konference:

• Být otevřený novým technologiím a nebát se je využívat
• Pokračovat v kontrole faktů, ověřování a ochraně zdrojů
• Být transparentní ohledně toho, jak a kdy AI používat
• Spolupracovat na hledání společných předpisů a řešení pro globální využití AI
• Mít další vládní pravomoci
• Tlačit na transparentnost
• Klást těžké otázky
• Propagovat důvěryhodné informace

Výsledky ankety na téma ověřování informací

1. Ověřujete informace zveřejněné v médiích, které konzumujete?
2. 69 % respondentů odpovědělo ANO
3. 31 % respondentů odpovědělo NE
4. Jakou techniku k ověřování informací používáte?
5. 93 % respondentů odpovědělo JINÝ ZDROJ INFORMACÍ
6. 10 % respondentů odpovědělo POUŽÍVÁM TECHNOLOGII AI
7. 7 % respondentů odpovědělo POUŽÍVÁM APLIKACE NA OVĚŘENÍ INFORMACÍ

Celý záznam konference můžete zpětně zhlédnout na následujících odkazech:

Celý event

Information Integrity in the AI Era: (Central) European Perspective / Panel discussion #1 

Information Integrity in the AI Era: (Central) European Perspective / Panel discussion #2 

Více informací o následujících konferencích pořádaných Aspen Institute CE naleznete na https://www.aspeninstitutece.org/cs/kalendar/.

O Aspen Institute Central Europe

Od roku 2012 existuje Aspen Institute Central Europe jako nezisková, nestranná a neideologická organizace, kde se mohou setkávat a komunikovat zástupci z politické, obchodní, umělecké, sportovní a vědecké sféry. Svým zaměřením a snahou propojovat nejrůznější myšlenky a disciplíny reaguje Aspen Institute Central Europe na aktuální potřeby středoevropských zemí.

Monika Dudková