# 3: Dobří lidé vyvíjejí hodnou umělou inteligenci. Co by se mohlo pokazit?

31. března 2023
# 3: Dobří lidé vyvíjejí hodnou umělou inteligenci. Co by se mohlo pokazit?

Staré bolí na srdci, mladé na duši a AI by bolela čínská invaze na Tchaj-wan. Jestli vás bolelo čekání na nový Datažurnál, už nemusí.

Jsme Samizdat, datový tým Českého rozhlasu. Někteří z nás jsou tak staří, že polykají prášky na srdce, někteří tak mladí, že už vyrůstali na sociálních sítích. V březnových článcích jsme pokryli oba světy.

Napsali jsme

Kolínka se vám zachtělo? Podle nařízení vlády byste neměli na náhradu kolenního kloubu čekat déle než rok, jenže hned v jedenácti krajích ze čtrnácti to potrvá déle, ve třech dokonce víc než dvakrát. Honza Boček nejenom spočítal, na jaké zákroky a kde se načekáte nejvíc, ale taky se vyptával na příčiny. Jsou jimi fronty vytvořené za covidu, podfinancovanost zdravotnictví a paradoxně i popularita některých špitálů.

Datový chirurg Boček si v naší polní nemocnici také vyšil seriál o nemocech oběhové soustavy:

Pokles úmrtnosti na nemoci srdce

Petr Kočí asistoval u článků o životní situaci důchodců a o zahraničních cestách českých prezidentů.

A Honza Cibulka si nepřestává svítit na vládní boj s dezinformacemi.

Zavítali jsme

Honza Cibulka v podcastu serveru Lupa.cz vyprávěl Davidu Slížkovi, jak na iROZHLAS.cz pracujeme s AI, hlavně s GPT a Whisperem pro přepis textu.

Přečetli jsme

Začíná cyklistická sezóna a možná i vy si proto brzy položíte otázku, kam přesně zmizelo vaše ukradené kolo. Patrně s ním neodjeli daleko, což ostatně tušil už Vittorio De Sica.

Podobně jako v únoru jsme byli i v březnu zaměstnaní hlavně studiem umělých inteligencí, především GPT:

  • Nejprve ChatGPT dostalo aplikační rozhraní, navíc levné, pro volání ze skriptů a aplikací.

  • Pak přišlo GPT-4; jeho široké možnosti odhaluje výzkumnictvo z Microsoft Research v 155stránkovém paperu.

  • Nakonec jsme se dočkali plug-inů umožňujících praktickou práci s čerstvými a přesnými informacemi – viz třeba ten od Wolfram|Alpha.

Jistě, píše se o tom všude a vy tenhle newsletter odebíráte kvůli práci nás, datařstva Českého rozhlasu. Těžko si ale vzpomenout, co tu práci naposledy tak masivně a za tak krátkou dobu ovlivnilo. Prohrabáme se šuplíky, protože náměty, na které bychom potřebovali tucet lidí na stáži, jde najednou prošťouchnout za dvacet minut psaní kódu a nižší stokoruny za výpočetní čas.

Nejsme však žádní rozjuchaní AI-bros a radostné experimenty vyvažujeme chmurnou četbou:

  • Scott Alexander jako vždy bystře kritizuje mantru OpenAI (provozovatele GPT), podle níž teď musí dobří lidé (rozuměj: OpenAI) šlápnout do vývoje, aby měly náskok před zlými lidmi (rozuměj: „kombinací Marka Zuckerberga a Číny“).

  • Jon Stokes se pokouší co nejvěcněji odpovědět na otázku, jak jde vůbec vývoj AI zpomalit: skutečně efektivní opatření by se vám nelíbily.

  • Blogger Dynomight jde ve svých úvahách opačným směrem: proč jsme vlastně neměli GPT-2 už v roce 2005?

  • A kritickou literaturu doplňme hezkým pojmem Waluigiho efekt: „Když natrénujete velký jazykový model tak, aby splňoval žádoucí vlastnost P, je o to snazší následně přimět (na něm postaveného) chatbota k tomu, aby projevoval naprostý opak vlastnosti P.“ Prakticky: vycvičte model k tomu, aby dětem na školách varovně vyprávěl o zhoubnosti totalitních režimů, a bude pro něj snadné zahrát nácka nebo bolševika. (Waluigi je záporný protějšek Luigiho z videoher se Super Mariem.)

Chystáme

Školení toho, co umíme. Info již v příštím Datažurnálu!

Klára Filipová mohla klidně napsat o tom, že podle věhlasných amerických profesorů připravují mobilní telefony mládež o dobrou náladu. Ono by se to četlo. Jenže Klára místo toho nabrala další odborníky a vyšel jí mnohem plastičtější obrázek: v časech klimatické krize a pandemie nejdou úzkosti hodit jenom na vejrání do displejů. Vyjde na iROZHLAS.cz v příštích dnech.

Pracujeme na velkém materálu k deXXXXXXXXXím a hledáme někoho, kdo nám pomůže s obrazovým doprovodem. Za peníze. Máte-li zájem a umíte-li vytvořit hezčí věci než splácaninu s Waluigim ze záhlaví, napište nám na [email protected].

Za Samizdat zdraví Michal Kašpárek

(Úvodní ilustrace je vygenerovaná ve Stable Diffusion na základě promptu „a 1990s video game character merging with motherboards, GPUs and chips, illustration in the style of Nintendo video games“.)