OpenAI қауіпсіздік бөлімінің қызметкері компания мәдениетімен келіспей, жұмыстан кетті

TechCrunch басылымының жазуынша, OpenAI-дың бұрынғы қауіпсіздік маманы Дэвид Робинсон жасанды интеллектті іске қосудағы асығыстық ауыр тәуекелдер тудыратынын мәлімдеді, деп хабарлады KAZ.NUR.KZ.

Қауіпсіздік маманы Дэвид Робинсон OpenAI компаниясында үш жарым жыл жұмыс істегеннен кейін қызметінен кетті. Ол өз шешімін The Atlantic басылымына жазған мақаласында түсіндіріп, әзірлеуші компанияның корпоративтік мәдениеті "бұзылған" деп мәлімдеді. Оның айтуынша, компанияның үнемі жылдам релиздер жасауға ұмтылысы қажетті сақтық шараларынан басым түсіп отыр.

Озық модельдердің 12 рет іске қосылуына қатысты қауіпсіздік есептерін дайындауға жетекшілік еткен Робинсон OpenAI-дың "итеративті орналастыру" тәсілін сынға алды. Бұл стратегия жүйелерді нарыққа шығарып, кейіннен олқылықтарды туындауына қарай жоюды көздейді. Сарапшы қателіктер мен сынақтар әдісінің уақыты өткеніне сенімді, сондай-ақ озық жасанды интеллект зертханалары ядролық электр станциялары немесе авиация саласындағы сенімділік стандарттары бойынша жұмыс істеуге тиіс деп санайды.

OpenAI өкілдері бұған жауап ретінде компания жасалып жатқан модельдердің қуатын бақылайтынын және қажет болған жағдайда қауіпсіздікті қамтамасыз ету үшін оқытуды тоқтата тұратынын немесе релиздерді кейінге қалдыратынын мәлімдеді.

Мәтіннен қате тапсаңыз, бізге жазыңыз