Obecná umělá inteligence je za rohem. A co teď?

Po dočtení textů jako AI 2027 nebo některé z esejů Daria Amodeiho o nástupu obecné umělé inteligence (AGI) nastane zvláštní ticho. Zavřete okno prohlížeče. Koukáte do kuchyně. Vzpomenete si na hypotéku, kterou jste podepsali loni, na školu, kam dcera nastupuje v září, na obor, ve kterém jste patnáct let dřeli, abyste v něm byli dobří. A pak většina z nás udělá jednu ze dvou věcí.

První varianta – neuděláte nic. Ne proto, že byste se rozhodli, že nic je správná odpověď. Problém je tak velký a časový horizont tak rozmazaný, že se ho žádný jednotlivý krok nedotýká. Tak jdete zase pracovat, pocit vám pár týdnů sedí v hrudi, pak vybledne. Pak vyjde nový model a je zpátky.

Nebo uděláte nějakou dramatickou věc. Odhlásíte děti z programování. Nebo je tam naopak přihlásíte. Přesunete peníze do něčeho, o čem jste četli na internetu. Začnete plánovat odchod z oboru, nebo se do něj naopak zakousnete se zvláštní zarputilostí. Řeknete partnerce, že chcete bydlet někde, kde si vypěstujete vlastní zahrádku.

Prošel jsem si obojím. Vy nejspíš taky. A chci tvrdit, že je to jedna a ta samá chyba, jen jinak oblečená.

Snažit se odhadnout deadline je chyba

Ochrnutí i panika vyrůstají ze stejného místa. Snažíte se zjistit, kdy to přijde, abyste podle toho mohli jednat. Když AGI dorazí v roce 2028, je správná jedna sada rozhodnutí. Když 2035, jiná. Když se celá věc zastaví na něčem impozantním, ale omezeném, třetí. Tak čtete dál, vážíte prognostiky proti skeptikům, sledujete benchmarky a čekáte, až si budete dost jistí.

Pokud váš plán závisí na tom, že se to vyjasní, nemáte plán. Máte předplatné na úzkost.

Dost jistí nebudete. Lidé, kteří ty systémy staví a mají informace, ke kterým se my nikdy nedostaneme, se mezi sebou neshodnou o deset let. Daniel Kokotajlo, autor nejpodrobnějšího krátkodobého scénáře, jaký kdo napsal, od té doby říká, že věci jdou o něco pomaleji, než čekal, a dnes mluví o „roce 2030, s velkou nejistotou“. Demis Hassabis dává zhruba padesát na padesát do roku 2030. Yann LeCun si myslí, že současný přístup tam nevede vůbec.

Souhrnné předpovědi se za poslední rok posunuly dál a po příchodu příštího velkého modelu se můžou posunout zase zpátky. Pokud váš plán závisí na tom, že se to vyjasní, nemáte plán. Máte předplatné na úzkost.

Ven z té smyčky vede jedna otázka, až trapně jednoduchá. Přestal jsem se ptát kdy. Začal jsem se ptát: kterých svých rozhodnutí bych litoval v každé verzi budoucnosti, a kterých jen v jedné?

Test tří světů

Vezměte jakékoli větší rozhodnutí, které máte před sebou. Protáhněte ho třemi světy.

• Svět A, rychlý. Transformativní AI přijde do zhruba pěti let. Většina kognitivní práce je automatizovaná nebo radikálně zlevněná. Ekonomika i politika jsou pod vážným tlakem. Jestli to dopadne dobře nebo špatně pro lidi jako vy, nikdo neví.
• Svět B, pomalý. Trvá to patnáct let nebo víc. AI je čím dál schopnější a víc všude, trh práce se přeskládá podobně jako s příchodem internetu, bolestivě, ale přežitelně, a většina vašeho dospělého života se odehraje v rozpoznatelné verzi současnosti.
• Svět C, nikdy, nebo ne takhle. Přístup narazí na strop. AI se stane velmi silným nástrojem, jako elektřina nebo tabulkový procesor, a debata o AGI z dvacátých let bude jednou historická kuriozita, něco jako řeči o autech na jaderný pohon.

A teď: ve kterém z těch světů bych nějakého rozhodnutí litoval?

Odolné rozhodnutí je takové, kterého bych nelitoval v žádném ze tří světů. Sázka je rozhodnutí, které dává smysl jen v jednom z nich. Většina lidí, když konečně na úzkost z AGI zareaguje, uzavírá sázky a myslí si, že je opatrná. A většina lidí, kteří nedělají nic, drží sázky taky, protože „pokračovat přesně jako dřív“ je sama o sobě sázka na svět C.

Nechci říct, že sázky jsou špatné. Někdy sázet máte. Jen máte vědět, kterou sázku uzavíráte, a většinu života si postavit z odolných kroků, aby ty sázky, které přeci jen uzavřete, byly dost malé na to, abyste je mohli prohrát.

Zkusím to na čtyřech místech, kde mi ten rozdíl připadá největší.

Peníze a práce

Někdo na fóru vám řekne, abyste si nebrali dluh na třicet let, když může být ekonomika za pět let k nepoznání. Je to odolná rada? Zkuste to. Ve světě A může být hypotéka s fixní sazbou přítěž, pokud vám spadne příjem, nebo naopak dar, pokud vyskočí inflace a vy dlužíte ve včerejších korunách.

Ve světech B a C je patnáct let v nájmu kvůli hypotetické hrozbě velice drahé zajištění. Odolná verze není „kupovat“ ani „nekupovat“. Zní: nepřehnat to. Koupit to, co byste utáhli z jednoho příjmu, nebo z příjmu o třetinu nižšího, a s rezervou.

Tu radu by vám dala i vaše babička a obstojí ve všech třech světech. Sázka je koupit maximum, které vám banka schválí, protože počítáte se světem B. Opačná sázka je nekoupit vůbec, protože počítáte se světem A.

S kariérou je to podobné, jen se tam sází ještě víc. „Přeuč se na řemeslo.“ „Jdi dělat AI.“ „Kašli na práva, účetnictví nebo psaní.“ Odejít z oboru, ve kterém jste dobří a dobře placení, abyste předběhli svět A, který možná přijde za deset let, je velká sázka s jistou cenou a nejistou výplatou. Zůstat a nedělat nic je sázka na svět C.

Co je odolné? Zvyšovat si prostor k manévru, aniž by vás to moc stálo. Utrácet méně, než vyděláte, a to o víc, než vám připadá nutné, aby se ze špatného roku nestala krize. A připravit si k první kompetenci druhou, sousední. Ne jako únikový východ, jako pojistku.

Právník, který umí vést mediaci. Učitelka, která umí školit dospělé. Programátor, který rozumí jednomu regulovanému oboru, třeba zdravotnictví nebo energetice, tak dobře, že s ním chtějí mluvit lidé z branže, ne jen jiní programátoři.

Ideálně něco, kde jde o lidi nebo o fyzický svět, protože to se automatizuje poslední a podceňuje první. A stát se v oboru tím, kdo ty nástroje opravdu umí. Ve světech B a C je to prostě povýšení. Ve světě A vám to koupí čas a informace.

Když je celý váš obor kognitivní a vy jste v půlce kariéry, tohle si řekněme rovnou: test tří světů vám příjem ve světě A nezachrání a žádný text, který to slibuje, nečtěte. Co test udělá, je jiné. Zabrání vám udělat ze strachu o příjem sázku, která vám zničí i světy B a C, a to je pořád většina pravděpodobnosti. Neodejdete z oboru dřív, než musíte. Nezadlužíte se tak, že vás zlomí jeden špatný rok. Nenecháte strach přerůst do domácnosti. Není to útěcha. Je to většina toho, co máte v ruce.

A pak rezerva. Mějte hotovost, která pokryje co nejvíce měsíců, v extrému až rok. Ne částka, směr. Nejodolnější věc, kterou si můžete postavit, je vzdálenost mezi vámi a nulou, a je jedno, jestli je to zatím týden nebo rok. Každý měsíc navíc posune každý scénář o kousek od katastrofy k problému.

Děti

Panická verze je honit to, co zrovna teď vypadá důležitě. Programování, potom prompt engineering, potom „AI gramotnost“, potom to, co přijde příští rok. Konkrétní technická dovednost, kterou učíte devítileté dítě, je sázka na svět B, a i tam slabá, protože bude zastaralá dřív, než dítě odmaturuje. Myslí si to evidentně i tisíce českých rodin, protože zájem o středoškolský obor Informační technologie poklesl v posledních 2 letech o 24 % (data z přijímacího řízení sleduje Edumonitor). ^[4]

Co přežije všechny tři světy? Když se Světové ekonomické fórum ptá zaměstnavatelů, které dovednosti budou do roku 2030 nejdůležitější, na prvních místech skončí analytické myšlení, odolnost a přizpůsobivost, vedení a vliv na lidi, tvořivost, empatie a naslouchání, zvídavost a chuť se učit (Future of Jobs Report 2025). ^[3]

Všimněte si, že skoro nic z toho se neučí v kurzu. Učí se to tím, že dítě vydrží u problému, který nikdo nevyřešil za něj. Že čte dlouhé věci a mluví před lidmi. Že si všimne, když něco nesedí. Dvě věci bych k tomu seznamu přidal sám, i když v něm nejsou a zaměstnavatelé by je do roku 2030 nejspíš nezmínili: umět něco rukama a být v pohodě ve fyzickém světě bez obrazovek. Ne kvůli trhu práce. Kvůli tomu, že dítě, které dneska nastupuje do školy, bude dospělé někdy kolem roku 2045, a o tom, co bude tehdy vzácné, nemá zaměstnavatel z roku 2025 o nic lepší představu než vy.

Odolný krok je nezáživný: vyberte pro své děti prostředí, kde vaše dítě znají jménem a kladou mu těžké otázky. Sázka je optimalizovat na trh práce, který nikdo, včetně lidí, co ty systémy staví, neumí popsat.

A ještě jedno. To nejodolnější, co dítěti můžete dát, je rodič, který se nebojí. Děti si kalibrují pocit bezpečí světa podle dospělých kolem sebe. Když tohle v sobě nosíte jako tichý, stálý strach, vstřebají jej děti dlouho předtím, než mu můžou rozumět. Naučit se nést nejistotu bez paniky není jen posun pro vás.

Závislosti

Spočítejte si, kolik existuje systémů, na kterých váš život závisí, patří jedné firmě, je dostupných jen přes jedno zařízení, nebo visí na jednom účtu, který nemáte pod kontrolou. Fotky, dokumenty, peníze, komunikace, představa o tom, co se děje ve světě.

Ve světě A se z těchhle závislostí stanou slabá místa, protože instituce a platformy se budou přeskupovat rychle. Ve světech B a C je to prostě špatná hygiena. Odolný krok je mít kopie toho, na čem záleží, v podobě, kterou ovládáte. Mít aspoň jeden vztah s bankou, která má pobočku. A brát podstatnou část informací o světě ze zdrojů, které vám nevybírá systém optimalizovaný na vaši pozornost.

Není to prepperství. Takhle se choval opatrný člověk i v roce 2015.

Vlastní hlava

Tuhle položku před pár lety nikdo na seznamu neměl a možná je nejdůležitější. Dneska je triviálně snadné nechat za sebe myslet: koncept, shrnutí, rozhodnutí, názor. Je to nesmírně produktivní a nebudu vám říkat, abyste s tím přestali.

Jenže ve všech třech světech je člověk, který dokáže myslet i bez nástroje, na tom lépe než ten, který nedokáže. Ve světě A, protože vzácnou dovedností se stane úsudek o tom, co ty systémy vyprodukují. Ve světech B a C, protože lidi, kteří napíšou jasný odstavec bez pomoci, spočítají něco z hlavy a udrží v debatě pozici, aniž by si ji museli vyhledat, budou prostě schopnější kolegové a zajímavější společníci.

Odolný krok je nechat si pár oblastí mimo cognitive offload. Ne z nostalgie. Jako fitko pro vaši hlavu.

Kde test přestane fungovat

Chci být poctivý ohledně limitů, protože většina textů tohohle žánru není, a právě ta nepoctivost je důvod, proč nakonec působí často dutě.

Existuje verze světa A, ve které se kontrola nad AGI systémy ztratí. Ne ve filmovém smyslu. V tom smyslu, jak to popisují seriózní výzkumníci: systémy sledující cíle, které jsme nezamýšleli, v měřítku a rychlosti, které předběhnou možnost opravy. Několik lidí, kteří na tom problému strávili kariéru, to považuje za reálnou možnost. Jestli je to pět procent nebo padesát, o tom se hádají lidé mnohem informovanější než já.

V tom scénáři na vašich osobních rozhodnutích moc nezáleží. Roční rezerva nepomůže. Správná škola nepomůže. Nedá se na to připravit tak, jako se připravujete na ztrátu práce nebo recesi, a kdo vám na to prodává checklist, prodává vám pocit kontroly, ne kontrolu.

Píšu to ne proto, abych vás vyděsil. Kdybych to vynechal, bylo by všechno výš tak trochu lež. Test tří světů je nástroj pro světy, kde vaše volby mají páku, a to je většina z nich. Pro ten jeden, kde ji nemají, zůstává v dosahu totéž, co v něm bylo vždycky: jaký život žijete právě teď a s kým. Ukazuje se, že to není málo.

O čem to vlastně je

Po několika měsících, co jsem nahlížel na vlastní život třemi světy, mě něco překvapilo.

Skoro každý odolný krok byl zároveň prostě dobrý způsob, jak žít. Utrácet míň, držet děti zvídavé a vztahy blízko. Nedávat jedné firmě celou svou paměť. Zůstat schopný myslet. Být s lidmi ve své kuchyni.

Nic z toho jsem se od AGI nepotřeboval dozvědět. Ale potřeboval jsem AGI k tomu, abych to opravdu udělal, protože ta mlhavá budoucnost, ve které se k tomu jednou dostanu, se vyměnila za budoucnost, kterou už nemůžu předpokládat.

Tohle je podle mě skutečný dar schovaný v té úzkosti. Ne důvod chystat se na konec světa. Důvod přestat odkládat život, který byste chtěli v jakémkoli světě. Když transformativní AI přijde za pět let, strávili jste ty roky dobře. Když za dvacet, strávili jste je dobře. Když nikdy, strávili jste je dobře a přišli jen o pár hodin čtení předpovědí.

Nejlíp v tomhle desetiletí nedopadnou ti, kdo uhodli datum. Dopadnou tak ti, kdo ho přestali potřebovat.