Anthropic ka bërë një propozim tepër të çuditshëm, duke kërkuar një ngadalësim global të zhvillimit të inteligjencës artificiale, me qëllim që shoqëria të ketë kohë të përgatitet për shpejtësinë marramendëse me të cilën po avancojnë sistemet e AI.
Në një postim të detajuar në blog, drejtuesit e kompanisë argumentojnë se teknologjia ka arritur një pikë ku modele shumë të avancuara mund të afrohen me “përmirësimin e vetvetes”, një moment kur AI mund të krijojë pasardhësit e vet pa ndërhyrje njerëzore, me pasoja të paparashikueshme për kontrollin dhe sigurinë njerëzore. Për të shmangur këtë “problematikë kontrolli”, Anthropic propozon një pushim të përkohshëm ose ngadalësim të zhvillimit të atyre modeleve më të fuqishme, deri sa mekanizmat rregullatorë, institucionet shoqërore dhe hulumtimet për sigurinë të jenë më mirë të përgatitura.
Sipas kompanisë, një masë e tillë mund të jetë e vlefshme për fushat si shkenca dhe kujdesi shëndetësor, por gjithashtu mbart rreziqe nëse zbatohet vetëm nga një kompani, pasi rivalët mund të vazhdojnë pa u ndalur, duke krijuar avantazhe strategjike. Kështu, Anthropic nxit bashkëpunim ndërkombëtar dhe verifikim të përbashkët, duke krahasuar nevojën për koordinim me traktatet e kontrollit të armëve bërthamore, megjithëse pranon se krijimi i një sistemi të tillë do të jetë i vështirë dhe kërkon kohë.
Propozimi ka ngjallur reagime të ndryshme në komunitetin e teknologjisë. Disa e përshkruajnë si një apel serioz për prioritetet e sigurisë dhe etikës në AI, ndërsa kritikët sugjerojnë se ideja mund të shërbejë për të zbutur konkurrencën ose për të ndihmuar Anthropic të ruajë avantazhin e saj në treg përpara një IPO të planifikuar.
