Vyzýváme proto všechny laboratoře umělé inteligence, aby okamžitě alespoň na 6 měsíců pozastavily výcvik systémů umělé inteligence výkonnějších než GPT-4. Tato přestávka by měla být veřejná a ověřitelná a měla by zahrnovat všechny klíčové aktéry. Pokud se takovou pauzu nepodaří rychle zavést, měly by zasáhnout vlády a zavést moratorium.

Laboratoře umělé inteligence a nezávislí odborníci by měli tuto pauzu využít ke společnému vypracování a zavedení souboru sdílených bezpečnostních protokolů pro návrh a vývoj pokročilé umělé inteligence, které by byly přísně kontrolovány a dozorovány nezávislými externími odborníky. Tyto protokoly by měly zajistit, že systémy, které se jimi řídí, jsou nade vší pochybnost bezpečné."[4] To neznamená pauzu ve vývoji umělé inteligence obecně, pouze ústup od nebezpečného závodu za stále většími nepředvídatelnými modely "černých skříněk" s nově se rodícími (emergentními) schopnostmi.

Výzkum a vývoj umělé inteligence by se měl znovu zaměřit na to, aby dnešní výkonné a nejmodernější systémy byly přesnější, bezpečnější, interpretovatelnější, transparentnější, robustnější, sladěné se zadanými úkoly, důvěryhodnější a loajálnější.

Souběžně s tím musí vývojáři AI spolupracovat s tvůrci pravidel na výrazném urychlení vývoje robustních systémů řízení AI. Ty by měly zahrnovat přinejmenším: nové a kompetentní regulační orgány věnující se umělé inteligenci; dohled a sledování vysoce výkonných systémů umělé inteligence a velkých zdrojů výpočetních kapacit; systémy provenience a vodoznaků, které pomohou rozlišit skutečné systémy od syntetických a sledovat úniky modelů; robustní ekosystém auditu a certifikace; odpovědnost za škody způsobené umělou inteligencí; robustní veřejné financování technického výzkumu bezpečnosti umělé inteligence; a dobře vybavené instituce pro zvládání dramatických ekonomických a politických otřesů (zejména pro demokracii), které umělá inteligence způsobí.

Lidstvo se může těšit na prosperující budoucnost s umělou inteligencí. Poté, co se nám podařilo vytvořit výkonné systémy UI, si nyní můžeme užívat "léto UI", kdy budeme sklízet plody, konstruovat tyto systémy k jasnému prospěchu všech a dávat společnosti šanci se přizpůsobit. Společnost si dala pauzu v případě jiných technologií s potenciálně katastrofálními dopady na společnost, můžeme tak učinit i zde. Užívejme si dlouhé léto s umělou inteligencí, nespěchejme nepřipraveni do podzimu.

zobrazit celý dopis