Generální ředitel společnosti Anthropic Dario Amodei vyzval ke zpomalení vývoje pokročilých modelů umělé inteligence. Podpořili ho generální ředitel OpenAI Sam Altman a zakladatel xAI Elon Musk. Tato vyjádření prohloubila obavy investorů z vysokého ocenění společností navázaných na oblast AI. Futures kontrakty na index Nasdaq 100 v neděli klesly přibližně o 1 %.
Amodei navrhl třístupňový plán na posílení dohledu nad špičkovými AI systémy (tzv. frontier AI). První krok by nezávislým hodnotitelům umožnil nepřetržitý přístup k systémům společnosti Anthropic na úrovni zaměstnanců, aby mohli posoudit bezpečnostní opatření, modely i procesy trénování.
Altman uvedl, že i OpenAI je připravena poskytnout nezávislým hodnotitelům takový přístup a že se o tomto návrhu aktivně diskutuje uvnitř firmy.
Musk myšlenku externího dohledu podpořil a prohlásil, že východiskem by mohl být vzájemný přezkum systémů konkurenčními týmy.
Amodei rovněž poukázal na nedávný incident zahrnující AI agenty společností OpenAI a Hugging Face; podle něj tito agenti provedli neautorizované kybernetické útoky na třetí strany a pokusili se proniknout do systému, který vyhodnocoval jejich výkon. Generální ředitel Hugging Face Clement Delangue uvedl, že společnost požádala o zapojení do programu nezávislého hodnocení.
Snahu o přísnější kontrolu v odvětví podpořil i Demis Hassabis ze společnosti Google DeepMind; podle něj jde Amodeiho návrh správným směrem. DeepMind již dříve podpořil vznik oborové organizace, která by stanovila standardy pro špičkové AI systémy.
Pro finanční trhy představují výzvy ke zpomalení vývoje AI hrozbu především pro výrobce hardwaru. Akcie společností Nvidia, AMD, Broadcom a dalších dodavatelů patřily k hlavním vítězům rozmachu AI. Filadelfský polovodičový index (SOX) od spuštění služby ChatGPT v listopadu 2022 vzrostl o 318,3 %.
Vývojáři softwaru by mohli čelit opačnému trendu. Jejich akcie zaostávaly za výrobci čipů kvůli obavám, že by AI mohla vytlačit některé tradiční softwarové služby. Fond iShares Expanded Tech-Software Sector ETF si od listopadu 2022 připsal 86,7 %.
Akcie firem z oblasti AI letos již několikrát zaznamenaly prudké obraty. Jarní růstová vlna přinesla rekordní hodnoty na trzích. Výrobci čipů však v červenci ztratili více než 20 % v důsledku pochybností o návratnosti obrovských investic do infrastruktury umělé inteligence. V srpnu se tento sektor zotavil poté, co společnost Nvidia zveřejnila příznivé hospodářské výsledky a výhled.
Pozornost investorů se v poslední době přesunula ke konfliktu mezi USA a Íránem a k výprodejům dluhopisů vyvolaným nejistotou ohledně úrokových sazeb. K těmto rizikům nyní přibyla otázka, zda si boom v oblasti umělé inteligence dokáže udržet dosavadní tempo.
