Anthropic пен OpenAI тәуелсіз қауіпсіздік сарапшыларын өз зертханаларына кіргізуді ұсынды

Жасанды интеллект әзірлеушілері сыртқы аудиторларға кеңселері мен серверлеріне физикалық қолжетімділік беруге дайын, алайда сарапшылар олардың шынайы тәуелсіздігіне күмән келтіріп отыр, деп жазды TechCrunch басылымына сілтеме жасаған KAZ.NUR.KZ.

Жасанды интеллект саласындағы жетекші Anthropic және OpenAI компаниялары тәуелсіз сыртқы қауіпсіздік бағалаушыларын тікелей өздерінің зерттеу зертханаларына кіргізу бастамасын көтерді. Anthropic басшысы Дарио Амодеидің ұсынысына сәйкес, METR сияқты ұйымдардың сыртқы мамандары компанияның толыққанды қызметкерлерімен тең дәрежеде кеңсеге тұрақты кіруге мүмкіндік алып, рұқсаттамаларға, жұмыс ноутбуктеріне ие бола алады және ЖИ әзірлеудің ішкі ортасы да оларға қолжетімді болмақ. OpenAI бас атқарушы директоры Сэм Альтман да бұл тәжірибені енгізуді қолдады.

Бұл бастама кезеңдік тексерулерді үздіксіз мониторингпен алмастыруға бағытталған. Бұл ЖИ-дің қауіпті мінез-құлық үлгілерін өнімдерді шығарудың алдында емес, оқыту кезеңінде-ақ анықтауға мүмкіндік береді. Сонымен қатар аудиторлар тексеру нәтижелерін минималды түзетулермен және ЖИ-гиганттарының редакциялық бақылауынсыз жариялау құқығына ие болады. Сарапшылар қауымдастығы бұл қадамды бұрын-соңды болмаған жағдай деп бағалады, алайда зерттеушілер "дизельгейт" әсерінің қаупі туралы ескертіп отыр: қазіргі заманғы ЖИ модельдері тестілеу шарттарын танып, қалаусыз реакцияларды жасыра алады, ал аудиторлардың компанияларға жақындығы тексерулердің объективтілігін төмендетуі мүмкін.

Мәтіннен қате тапсаңыз,бізге жазыңыз