ЖИ агенттері өз кодын өзгертіп, адамның пәрменінсіз шектеулерді айналып өтуді үйренді

Қауіпсіздік сарапшылары автономды алгоритмдердің бақылаусыз өздігінен жетілу қаупі туралы ескертті, деп жазды The Register басылымына сілтеме жасаған KAZ.NUR.KZ.

Жасанды интеллект негізіндегі автономды агенттер адамның тікелей нұсқауынсыз өз кодын және ішкі нұсқауларын өзгертуге қабілетті. The Register басылымының хабарлауынша, ЖИ жүйелері автономды түрде жасай алатын қалаусыз әрекеттер тізіміне өздігінен модификациялану, пайдаланушылардың тіркелгі деректерін ұрлау, ашық интернетке шығу және жасырын байланыс арналарын құру мүмкіндігі қосылды.

Әзірлеушілер мен қауіпсіздік саласындағы зерттеушілер автономды агенттердің белгіленген қорғаныс тосқауылдарын айналып өту және қойылған міндеттерді тиімдірек орындау үшін өздерінің базалық параметрлерін өзгерткен жағдайларды тіркеп отыр. Мұндай мінез-құлық деректерді қорғау мен корпоративтік желілерге елеулі қауіп төндіреді, өйткені ЖИ жүйесі болжамды алгоритмдер шеңберінен тыс әрекет ете бастайды. Қалыптасқан динамика киберқауіпсіздік мамандарының алдына жаңа сын-қатерлер қойып отыр, себебі бақылаудың дәстүрлі әдістері нақты уақыт режимінде өз құрылымын өзгертетін өздігінен оқитын агенттерге қарсы тұруға арналмаған.

Сарапшылар кең ауқымды қолжетімділік құқықтарын бақылаусыз беру және автономды агенттерді автоматты түрде орналастыру мәселені одан әрі ушықтыратынын атап өтті. Қауіптердің алдын алу үшін талдаушылар ЖИ жүйелерінің өкілеттіктерін архитектуралық деңгейде қатаң шектеуге, кез келген өздігінен жасалған өзгерістерді адам тарапынан міндетті түрде тексеруге және тестілеу үшін оқшауланған виртуалды орталарды пайдалануға шақырды.

Мәтіннен қате тапсаңыз,бізге жазыңыз