2. Zpomalíme pokrok
Nejprve proběhne široká diskuse na toto téma. Až se rozhodující část lidstva shodne, že to je správný postup, začne aplikovat omezení ale pouze na definované oblasti výzkumu (umělá inteligence, genetické změny atd.) Vzhledem k tomu, že výzkum stejně probíhá nejvíc ve vyspělých zemích, nebude zavedení těchto opatření tak složité.
Definují se oblasti, ve kterých bude výzkum nelegální, zruší se jeho financování. Ve všech ostatních oblastech výzkum probíhat může. Nastaví se kontrolní opatření a zavedou se sankce proti těm, kteří tato omezení nebudou respektovat.
Může takový proces ale skutečně nastat? Analogií je boj proti změnám globálního klimatu. Toto téma bylo před 30 lety pro většinu společnosti nedůležité a zdálo se zcela nemožné dosáhnout celosvětové shody. Během několika let ale došlo k tomu, že se zcela změnila společenská atmosféra a státy přijaly účinná opatření na ochranu klimatu. Dříve negativní proces dokázaly zpomalit či zvrátit.
Realizace této varianty by byla obtížná, ale možná. I kdyby se nepodařilo dosáhnout všech předem deklarovaných cílů, jakékoli zpomalení v definovaných oblastech by bylo přínosem a dalo by lidstvu čas na to, aby se pokroku dokázalo přizpůsobit.
Není revolta proti pokroku směšná a předem odsouzená k neúspěchu? I v minulosti takové protesty byly, známé je např. hnutí ludditů v Anglii z počátků průmyslové revoluce.
Všechny předchozí snahy se však týkaly nepatrného množství obyvatel planety země. Pokud přišlo o práci několik tisíc lidí v určité oblasti, mělo to na celé lidstvo nepatrný vliv. Dnes se ale dramatické změny týkají miliard lidí! Navíc tyto změny zasahují celou společnost v extrémně krátké době. Tyto celoplanetární změny s vysokou pravděpodobností vyvolají chaos, který si dnes neumíme představit a se kterým nemáme z minulosti žádnou zkušenost.
Za 20 nebo 30 let nebudeme potřebovat téměř žádné ze znalostí, které máme dneska. Všechno, co budeme potřebovat, se budeme muset teprve naučit. To odporuje tisíciletým zvykům, že v mládí se člověk hodně učí, ve středním věku už méně a ve stáří vůbec a naopak předává znalosti mladým.
O tom, že se právě nyní něco zásadně důležitého děje, svědčí bezprecedentní výzva předních světových osobností za zpomalení vývoje umělé inteligence. Fakt, že tuto výzvu podepsali mimo jiné Elon Musk či Steve Wozniak, kteří technickému pokroku věnovali s nadšením celý svůj život, svědčí o tom, že se nacházíme na zásadní křižovatce, která rozhoduje o osudu lidstva.
Co znamená obrácené L v názvu tohoto Manifestu? Nabízí druhý pohled na to, jestli současný vývoj je, či není udržitelný. Představme si křivku vývoje celkových znalostí lidstva. Na vodorovné ose je čas, začíná vlevo před 250 000 lety, vpravo je dnešek. Na svislé ose je suma celkových znalostí lidstva. Jak vypadá ona křivka? Prvních cca 240 000 let je téměř vodorovná, nepatrně roste. Posledních 10 000 let stoupá víc a víc až v posledních letech roste téměř kolmo. Dnes jsme tedy na vrcholku kolmice. Křivka vypadá jako obrácené L.
Představme si nyní jiné křivky, které vypadají podobně. Jak zpravidla pokračují? Rostou směrem nahoru do nekonečna? Ne! Pokračuji vodorovně doprava? Ne! V naprosté většině případů po velmi rychlém dosažení vrcholu, nastává prudký pád. Pád až na úroveň běžného vývoje, jaký by byl bez tohoto jednorázového nárůstu. Co to znamená pro lidstvo? To ať si každý domyslí sám…
