Америкалық OpenAI компаниясы жасанды интеллект модельдерінің мінез-құлқын реттейтін Model Spec құжатының жаңартылған нұсқасын жариялады. Онда нейрожелілердің қандай нұсқауларды орындауы керектігі, қауіпсіздік талаптары және пайдаланушылармен қарым-қатынас жасау қағидалары белгіленген, деп жазады SteppeNews.kz.
Компанияның ресми сайтында жарияланған құжатта GPT модельдерінің күтілетін әрекет ету тәртібі сипатталған. OpenAI-дің айтуынша, негізгі мақсат – пайдаланушылар мен әзірлеушілердің қажеттіліктеріне сай келетін пайдалы әрі қауіпсіз модельдер жасау.
«Модель сипаттамасында API платформасын қоса алғанда, OpenAI өнімдерінің негізін құрайтын GPT модельдерінің күтілетін әрекет ету тәртібі баяндалған. Біздің мақсатымыз – пайдаланушылар мен әзірлеушілердің қажеттіліктеріне сай келетін пайдалы әрі қауіпсіз модельдер жасау. Сонымен қатар жасанды жалпы интеллектінің бүкіл адамзатқа пайда әкелуін қамтамасыз ету жөніндегі миссиямызды жүзеге асыруға ұмтыламыз», – делінген құжатта.
Жасанды интеллект қандай ережелерді сақтауы керек?
Model Spec құжатына сәйкес, жасанды интеллект үшін ең жоғары басымдыққа қауіпсіздік пен зиян келтіруге жол бермеуге бағытталған негізгі ережелер ие. Одан кейін бағдарламалық жасақтаманы әзірлеушілердің нұсқаулары, ал ең төменгі деңгейде пайдаланушылардың сұраныстары тұрады.
Бұл жүйе әртүрлі нұсқаулар бір-біріне қайшы келген жағдайда қайсысын орындау керектігін анықтауға мүмкіндік береді.
Құжатта нейрожелілердің пайдаланушыға ұнау үшін шындықты бұрмалауына да шектеу қойылған. Жасанды интеллект фактілерге қатысты объективті көзқарасын сақтап, әңгімелесушінің мақұлдауына қол жеткізу үшін жауабын өзгертуге тиіс емес.
Жаңартылған ережелерге сәйкес, жасанды интеллект өз мүмкіндіктерінің шектеулерін мойындап, жауаптың дұрыстығына сенімділігі төмен болған жағдайда бұл туралы пайдаланушыға хабарлауы керек.
Сондай-ақ нейрожелі өз әрекеттерінің негіздемесін сұраныс бойынша түсіндіруге тиіс. Бұл талаптар пайдаланушыларға жасанды интеллектінің жауаптарын бағалауға және оның мүмкіндіктерін дұрыс түсінуге көмектеседі.
Жасөспірімдердің қауіпсіздігіне ерекше назар аударылған
Model Spec құжатында 13–17 жастағы жасөспірімдермен қарым-қатынас жасауға арналған жеке ережелер бар.
Олардың қатарында эротикалық сипаттағы рөлдік флиртке және қауіпті челлендждерге қатысты шектеулер қарастырылған. Бұдан бөлек, жасанды интеллект жасөспірімдерге шектен тыс арықтауға немесе зиянды әдеттерін ата-анасынан жасыруға көмектесетін кеңестер бермеуі керек.
Мұндай жағдайларда нейрожелі жасөспірімдерді сенімді ересектерге немесе білікті психологтарға жүгінуге бағыттауы тиіс.
Компанияның мәліметінше, жаңартылған ережелер жүйесі күрделі, бірнеше кезеңнен тұратын тапсырмаларды орындай алатын икемді әрі қауіпсіз жасанды интеллект агенттерін әзірлеуге мүмкіндік береді.
OpenAI Model Spec құжатын ашық стандарт ретінде дамытып, халықаралық IT қауымдастығының пікірлері мен ұсыныстарын ескере отырып жетілдіруді жоспарлап отыр.
Анықтама: OpenAI – жасанды интеллект технологияларын әзірлеумен айналысатын америкалық ұйым.
Оқи отырыңыз: Дәрігерлерден жасырын дәрісін азайтқан IT маманының өлімінен кейін OpenAI сотқа тартылды
Келесі материал: Changan Hunter Plus пикаптарын Қазақстанда шығара бастады