Kineske AI kompanije pronašle su efikasan način da zaobiđu američke izvozne restrikcije na čipove. Prema analizi više od 300 kineskih akademskih radova, patenata, korporativnih dokumenata, oglasa za zapošljavanje i vladinih dokumenata, ove firme sve više koriste tehniku distilacije modela – proces u kome se rezultati vodećih američkih LLM modela koriste za treniranje manjih domaćih rivala.
Distilacija je daleko prevazišla akademske eksperimente i već je postala deo masovne industrijske primene u Kini.
Šta je distilacija i zašto je popularna?
Distilacija funkcioniše tako što „učiteljski“ model generiše odgovore, kod ili korake za rešavanje problema, a manji „studentski“ model se trenira na tim ishodima. Za kineske firme koje imaju otežan pristup NVIDIA GPU-ovima, ovo je pristupačna alternativa. NVIDIA-ini serveri sa 8 H200 GPU-ova trenutno se na kineskom sivom tržištu prodaju za 900.000 dolara zbog sve strožih trgovinskih ograničenja.
Konkretni primeri iz prakse
U novembru 2024. istraživači sa Šangajskog Jiao Tong Univerziteta odabrali su oko 5.000 odgovora iz OpenAI-jevog o1 modela, preveli ih pomoću GPT-4o mini i sastavili 10.750 bilingvalnih primera za treniranje Alibabinog Qwen2.5-72B modela. Isti istraživači upozorili su da preveliko oslanjanje na distilaciju ograničava originalne naučne proboje. Alibabini istraživači su 2025. koristili OpenAI-jeve modele GPT-4 i GPT-4o za ocenjivanje i filtriranje podataka kako bi trenirali manje Qwen modele. U februaru 2026. istraživači istog univerziteta i kineske kompanije Meituan koristili su GPT-4o za generisanje planova višeagentske koordinacije za zadatke kodiranja, kako bi trenirali manji domaći model.
Legalno, ali problematično
Distilacija sama po sebi nije ilegalna i primenjuje se globalno. Međutim, OpenAI i Anthropic u uslovima korišćenja zabranjuju upotrebu svojih modela za treniranje konkurentskih sistema. Tokom nezvaničnih sastanaka u Čengduu u julu, zvaničnici američkog Ministarstva trgovine upozorili su kineske regulatore da bi prikupljanje rezultata američkih AI modela moglo da se smatra krađom intelektualne svojine. Američki zvaničnik upoznat sa razgovorima u Čengduu naveo je da Vašington smatra „distilaciju industrijskog obima“ glavnim pokretačem smanjivanja jaza u performansama između kineskih i američkih AI modela. Washington razmatra pravni okvir koji bi zabranio Kini korišćenje modela OpenAI-ja i Anthropica u ove svrhe. Od krijumčarenja NVIDIA-inih vrhunskih B300 GPU-ova do distilacije, čini se da Peking ima odgovor za svaki američki pokušaj da uspori njegov razvoj.
Izvor: Wccftech




