Tikriausiai esate įpratę galvoti apie dirbtinį intelektą kaip apie pokalbių robotą, kuris rašo jums eilėraščius arba apibendrina el. laiškus, tačiau atsirado nauja tendencija, kuri visiškai apeina žodžius. „TypeSafe AI“ pristatė „Jev“ – įrankį, kuris laužo stereotipus, nes nerašo nė vieno sakinio; jo misija – pateikti techninius ir tikimybinius sprendimus, kuriuos bet kuri kompiuterinė programa gali akimirksniu apdoroti be jokių rūpesčių.
Įsivaizduokite, kad turite sistemą, kuri apdoroja tūkstančius užklausų, ir jums nereikia dirbtinio intelekto, kad paaiškintų, kodėl užklausa yra skubi; jums tereikia, kad ji pasakytų „skubu: taip“. „Jev“ pozicionuoja save būtent ten, tarp griežto kodo ir lėtų kalbos modelių, siūlydama tai, ką jie vadina „System One“ modeliais , įkvėptais Danielio Kahnemano greito, intuityvaus mąstymo psichologijos.
Kas tiksliai yra Jev AI?
Kitaip nei tokie gigantai kaip GPT ar Claude, kurie po vieną išleidžia žetonus pastraipai sudaryti, Jev veikia kaip išmanioji funkcijos iškvieta . Jai perduodate būseną (kuri gali būti JSON, tekstas arba sąrašas) ir iš anksto apibrėžtų klausimų rinkinį, o modelis grąžina struktūrizuotas reikšmes. Tai reiškia, kad nėra tipo klaidų ar formatavimo problemų, nes atsakymas yra susietas su anksčiau pasirinktomis parinktimis.
Šio modelio architektūra naudoja specialų mokymo metodą, vadinamą sustiprintuoju mokymusi kalibruotiems sprendimams (RLCD) . Tikslas nėra tas, kad dirbtinis intelektas būtų simpatiškas ar įtikinamas, o kad jo tikimybės būtų sąžiningos ir sukalibruotos. Jei Jevas sako, kad yra 90 % įsitikinęs atsakymu, šis skaičius turėtų atspindėti tikrąjį tikslumą – tai labai svarbu, kai norite, kad programinė įranga veiktų savarankiškai, žmogui nereikėtų peržiūrėti kiekvieno žingsnio.
Trys pagrindiniai įrankiai: primityviosios priemonės
Siekiant paprastumo ir efektyvumo, „Jev“ API pagrįsta trijų tipų klausimais, kurie leidžia patenkinti beveik bet kokius klasifikavimo poreikius:
- Pasirinkimas: Tai leidžia pasirinkti vieną variantą iš iki 255 galimų atsakymų grupės. Pateikiamas ne tik laimintis variantas, bet ir visų variantų tikimybių žemėlapis bei patikimumo balas. Įtraukta ir „kita“ parinktis, kad modelis nepriverstų pateikti neteisingo atsakymo.
- Rezultatas: Įvertinkite kažką laipsniškoje skalėje (nuo 2 iki 10 lygių). Įdomu tai, kad grąžinamos dešimtainės reikšmės (pvz., 1.4), o tai leidžia užfiksuoti... niuansai tarp kategorijų kurį sveikasis skaičius ignoruotų.
- Noul (Būlio vertinimas): Tai supaprastinta atsakymo „taip“ arba „ne“ versija, grąžinanti tikimybę nuo 0 iki 1.
Galingiausia funkcija yra ta, kad Jev gali atsakyti į visus šiuos klausimus vienu metu . Jei jums reikia žinoti žinutės kategoriją, kliento pykčio lygį ir ar jis prašo grąžinti pinigus, Jev pateikia visus tris atsakymus vienu metu, todėl pridėjus daugiau klausimų, atsakymo laikas beveik nepakinta.
Našumas, išlaidos ir smulkus šriftas
Žvelgiant į skaičius, „TypeSafe AI“ gali pasigirti stulbinančiu greičiu – delsa svyruoja nuo 70 iki 500 milisekundžių . Palyginti su pažangiomis LLM, kurioms atsakymo projektas gali užtrukti kelias sekundes, „Jev“ yra absurdiškai greitas. Be to, pagrindinis privalumas yra kaina: milijonas įvesties žetonų kainuoja vos 0,042 USD , o išvestis yra visiškai nemokama, nes negeneruojamas naujas tekstas.
Vis dėlto į šiuos skaičius reikėtų žiūrėti atsargiai. Daugelį lyginamųjų testų atliko pati „TypeSafe“ komanda, todėl gali atsirasti tam tikrų šališkumų. Nepaisant to, nulinės schemos klaidų pažadas yra apčiuopiamas: matematiškai Jev neįmanoma grąžinti formato, kurio neapibrėžėte, todėl nereikia sudėtingų kodo patvirtinimų.
Kur Jev AI spindi, o kur jam nesiseka?
Jevas yra karalius, kai reikia priimti pasikartojančius, didelius sprendimus dėl nestruktūrizuotų duomenų. Jis idealiai tinka potencialių klientų nukreipimui , turinio moderavimui, techninės pagalbos triažui ar net apsauginių barjerų kūrimui, siekiant stebėti kitų, didesnių dirbtinio intelekto modelių rezultatus. Jis taip pat labai naudingas žiniatinklio navigacijoje, kur gali nuspręsti, kurį elementą puslapyje spustelėti, nereikalaujant ekrano aprašymo.
Tačiau nebandykite jo naudoti viskam. „Jev“ netinka pokalbiams, programavimui ar samprotavimo aiškinimui. Jis turi aiškių matematikos ir simbolių skaičiavimo apribojimų, be to, prastai tvarko datas ar šešioliktaines reikšmes. Be to, jam trūksta pasaulinių žinių; jis žino tik tai, ką įvedate užklausos būsenoje. Jei jums reikia sudėtingo samprotavimo ar kūrybinio generavimo, turėtumėte rinktis 2 sistemos modelį, pvz., „Claude“ ar „GPT“.
Integracija į vystymosi ekosistemą
Programuotojams integracija yra gana paprasta. Yra oficialūs SDK, skirti „JavaScript“, „TypeScript“ ir „Python“ , o nors PHP nėra, tereikia paprastos POST užklausos. Be to, „Jev“ jau yra „Vercel“ dirbtinio intelekto šliuze, o tai labai supaprastina raktų valdymą ir atsiskaitymą, jei jau naudojate tą aplinką.
Labai sumanus „Jev“ naudojimo modelis yra sukurti sprendimų kaskadą . Pirmiausia „Jev“ pigiai ir greitai filtruoja ir klasifikuoja užklausą; tada deterministinis kodas tvarko paprastesnius atvejus ir tik tais atvejais, kai „Jev“ rodo mažą patikimumą, užklausa perduodama brangiam samprotavimo modeliui arba žmogui. Tai optimizuoja biudžetą ir sumažina bendrą sistemos delsą.
Šis įrankis iš naujo apibrėžia dirbtinio intelekto ir programinės įrangos santykį, intelektą paversdamas infrastruktūros komponentu , o ne pašnekovu. Atsisakydama teksto generavimo ir sutelkdama dėmesį į tikimybinį kalibravimą, „Jev“ leidžia mašinoms priimti greitus ir patikimus sprendimus už nedidelę kainą, atverdama duris automatizavimui, kuris anksčiau buvo pernelyg brangus arba lėtas.