Raționamentul furat din AI ajută China să construiască rivali mai ieftini

Ce s-a furat exact din modelele AI?

Cercetători de la Xint au descoperit o slăbiciune critică în procesul de compresie al OpenAI. Această vulnerabilitate le-a permis să extragă urmele ascunse de raționament din modelele de frontieră.

Datele furate oferă dezvoltatorilor chinezi o schiță pentru construirea de sisteme AI mai ieftine și competitive. Descoperirea pune în evidență o lacună de securitate tot mai mare în modul în care laboratoarele de top împachetează modelele lor pentru utilizare publică.

Problema se centrează pe modul în care furnizorii de AI de frontieră expun motoarele lor prin API-uri publice.

Aceste interfețe permit dezvoltatorilor să conecteze aplicații la AI și să primească răspunsuri. De obicei, răspunsul include pașii de raționament ai modelului. Totuși, procesul de compresie a eșuat să ascundă complet aceste urme interne.

Cum au accesat cercetătorii aceste urme?

Xint a exploatat această lacună pentru a extrage lanțuri de logică detaliate. Raționamentul furat arată cum modelul rezolvă problemele pas cu pas.

Caracteristica de compresie este concepută pentru a rezuma conversațiile lungi pentru a economisi memorie. Dar implementarea a lăsat artefacte de raționament vizibile în ieșirea. Echipa Xint a cartografiat aceste artefacte pentru a reconstrui procesul de gândire intern al modelului. Această logică reconstruită poate fi folosită pentru a antrena modele mai mici și mai ieftine care imită comportamentul de frontieră. Companiile chineze de AI pot acum replica capacități avansate de raționament fără a reconstrui întreaga arhitectură de la zero. Fuga de date scurtează efectiv ciclul de dezvoltare pentru sistemele rivale.

Modelele de frontieră de la OpenAI, Grok, Claude și Gemini servesc acum ca profesori neintenționați. Prin extragerea urmelor de raționament, competitorii pot distila modele mai ușoare care capturează esența sistemelor mai mari.

Acest proces de distilare este o tehnică standard în învățarea mașină. Oferă dezvoltatorilor un set de date gata de folosit pentru acest proces. Ca rezultat, laboratoarele chineze pot produce produse competitive la o fracțiune din costul și timpul necesar.

Impactul asupra dezvoltării AI în China?

Cursa globală a AI tocmai a devenit mai rapidă și mai ieftină pentru provocatori.

Au exploatat o slăbiciune în procesul de compresie.

Bug-ul le-a permis să extragă datele de raționament prin API-ul public fără a declanșa verificările de securitate.

Raționamentul furat oferă o schiță pentru construirea de rivali mai ieftini. Permite dezvoltatorilor chinezi să distileze capacitățile de frontieră în modele mai mici și mai eficiente.