Anthropic басшысы Дарио Амодеи ЖИ әзірлеуді баяулатуды және сыртқы бағалаушыларды тартуды ұсынды

TechCrunch жазуынша, стартап басшысы жетекші зертханаларды қауіпсіздік жүйелеріне уақыт беруге шақырып, "фронтирді басқару" жоспарын жариялады, деп хабарлады KAZ.NUR.KZ.

Anthropic компаниясының бас директоры Дарио Амодеи We Must Pace the Frontier атты мақаласын жариялап, технологиялық индустрияны жасанды интеллект қуатын арттыру қарқынын әдейі бәсеңдетуге шақырды. Стартап басшысының пікірінше, ЖИ саласындағы жедел прогресс ғалымдардың жасалып жатқан модельдерді бақылау және олардың қауіпсіздігін қамтамасыз ету қабілетінен озып барады.

Амодеидің жоспары үш негізгі қадамды қамтиды. Біріншіден, компаниялар тәуелсіз сыртқы бағалаушыларға (мысалы, METR ұйымына) өздерінің ішкі жүйелері мен оқыту процестеріне қызметкерлер құқығын бере отырып, тұрақты қолжетімділік беруге тиіс. Anthropic бұл шараны өз бетінше енгізгенін жариялады. Екіншіден, демократиялық елдердегі зертханалар қауіпсіздіктің бірыңғай стандарттарын әзірлеуге жәрдемдесуі керек. Үшінші қадам жаһандық үйлестіруді, соның ішінде чиптерге экспорттық шектеулерді сақтай отырып және модель салмақтарын ұрлаудан қорғай отырып, авторитарлық режимдермен өзара іс-қимылды көздейді.

Амодеидің бастамасы IT-саласында кең резонанс тудырды. OpenAI бас директоры Сэм Альтман тәуелсіз сарапшыларды тарту идеясын көпшілік алдында қолдады, кәсіпкер Илон Маск та даму қарқынын бақылау қажет екеніне келісті. Anthropic басшысының бұл мәлімдемесі компанияның Nasdaq биржасына шығуға дайындығы және автономды ЖИ-агенттердің бақылаусыз мінез-құлқына қатысты соңғы оқиғалар аясында жасалды.

Мәтіннен қате тапсаңыз,бізге жазыңыз