Shqetësimet për sigurinë kibernetike detyrojnë OpenAI të frenojë përkohësisht zhvillimin e modeleve të reja
OpenAI ka ngadalësuar përkohësisht zhvillimin e modeleve të saj më të avancuara, ndërsa forcon masat e sigurisë pas shqetësimeve të reja lidhur me aftësitë kibernetike të inteligjencës artificiale.
Vendimi pason incidentin e fundit OpenAI-Hugging Face dhe të dhënat paraprake se modeli i ardhshëm, Astra, mund të arrijë pragun e “aftësive kritike të sigurisë kibernetike” sipas Preparedness Framework të kompanisë.
Kompania prapa ChatGPT-së bëri të ditur se ka pezulluar për dy javë trajnimin me përforcim (RL) për modelet më të fundit të destinuara për përdorim, ndërsa trajnimi më i madh i planifikuar mbetet ende në pritje. Kompania po kryen testime në shkallë më të vogël për të vlerësuar sjelljen e modeleve dhe efektivitetin e masave mbrojtëse.
Masat e reja përfshijnë izolim më të fortë të sistemeve, kufizime të aksesit në internet, testime të vazhdueshme të sigurisë dhe monitorim të zgjeruar të aktivitetit të modeleve.
OpenAI thotë se qasja e saj mbështetet në tre shtylla: monitorim, përafrim me qëllimet njerëzore dhe masa sigurie, me synimin që mbrojtja të ecë paralelisht me rritjen e aftësive të AI-së.
