Ex-OpenAI-onderzoeker bouwt AI die kiest in plaats van tekst schrijft

De meeste bekende AI-modellen, zoals ChatGPT, genereren tekst: ze schrijven zin voor zin een antwoord. Het nieuwe model Jev van startup TypeSafe AI doet iets anders. Ontwikkelaars geven het model een vraag en een lijst met mogelijke antwoorden, en Jev kiest daaruit de meest waarschijnlijke optie, inclusief een kans-percentage. Geen lopende tekst dus, maar een label en een getal.

Achter TypeSafe AI zit medeoprichter en directeur Diogo Almeida, die eerder bij OpenAI werkte en meeschreef aan het onderzoek naar InstructGPT. Dat onderzoek legde de basis voor ChatGPT. Met Jev richt hij zich nu op een heel ander soort taak: niet het voeren van een gesprek, maar het razendsnel sorteren en beoordelen van binnenkomende berichten binnen bestaande software.

Een klacht sorteren voordat iemand hem leest

Een voorbeeld uit de documentatie van TypeSafe AI maakt duidelijk hoe dat werkt. Een klant van een webshop stuurt een bericht: hij is twee keer afgeschreven voor dezelfde bestelling en wil het teveel betaalde bedrag terug. Voordat een medewerker de klacht kan behandelen, moet die eerst worden ingedeeld. Gaat het om een betaling, een levering of een retour? Wil de klant geld terug, of alleen uitleg?

Ontwikkelaars koppelen de software van de webshop aan Jev en leggen vast welke vragen gesteld moeten worden en welke antwoorden zijn toegestaan. Bij elk nieuw bericht stuurt de software de tekst van de klant naar Jev. Het model geeft geen antwoordbrief terug, maar bijvoorbeeld het label 'betalingsprobleem' met een waarschijnlijkheid dat de klant om terugbetaling vraagt. De webshop-software koppelt daar vaste regels aan: betalingskwesties gaan naar de boekhouding, terugbetalingsverzoeken worden gemarkeerd, en bij twijfel kijkt een medewerker mee. Of er daadwerkelijk dubbel is afgeschreven, moet later nog worden uitgezocht aan de hand van de transacties zelf.

Duizenden keren per seconde beslissen

Het grote verkoopargument van TypeSafe AI is snelheid. Jev geeft antwoord binnen 70 tot 500 milliseconden, ruim sneller dan zelfs de snelste taalmodellen van dit moment. Dat komt doordat het model geen tekst stap voor stap opbouwt, maar volgens het bedrijf meerdere uitkomsten tegelijk berekent. Extra vragen toevoegen aan dezelfde aanroep kost bovendien nauwelijks extra tijd.

Die snelheid maakt volgens TypeSafe AI nieuwe toepassingen mogelijk, zoals een controle vlak voordat een taalmodel een antwoord verstuurt: klopt de tekst wel met het gesprek tot nu toe, of belooft hij een terugbetaling die nergens is vastgelegd? Andere genoemde toepassingen liggen in verkoop en klantenservice, zoals het herkennen van koopintentie of het bepalen wanneer een gesprek moet worden overgedragen aan een mens. Concurrentie is er ook: OpenAI biedt met Structured Outputs al een manier om taalmodellen binnen vaste categorieën te laten antwoorden. Het verschil moet dus zitten in snelheid, prijs én kwaliteit.

Snel en goedkoop, maar niet per se accuraat

De testresultaten die TypeSafe AI zelf publiceerde, zijn beperkt van opzet. Het bedrijf vergelijkt vier eigen werkstromen en gebruikt daarbij antwoorden van andere AI-modellen als referentie, niet onafhankelijk geverifieerde juiste oplossingen. Concurrent GPT-6 Astra ontbreekt bovendien in de vergelijking. Wel is het model goedkoop: TypeSafe AI rekent 0,042 dollar per miljoen invoertokens en vraagt niets voor de uitvoer.

Het bedrijf noemt Jev een model dat niet kan hallucineren. Die belofte gaat echter alleen over de vorm: het model geeft nooit een antwoord buiten de vooraf toegestane opties. Een feitelijk verkeerde keuze binnen die opties blijft wel degelijk mogelijk. Of de beoordelingen van Jev betrouwbaar genoeg zijn, zullen bedrijven dus zelf moeten testen voor hun eigen toepassing. Ontwikkelaars krijgen voorlopig alleen toegang via een wachtlijst.