Featherless AI

Featherless AI is in 2023 opgericht en exploiteert een serverless inference-platform voor kunstmatige intelligentie. Het platform biedt ontwikkelaars, onderzoekers en startups direct toegang tot meer dan 20.000 open-source AI-modellen, zonder dat zij de onderliggende infrastructuur hoeven te beheren. Het bedrijf is wereldwijd actief en opereert in de sectoren kunstmatige intelligentie, developer tools, open-source software en cloud inference.

De kern van het platform is hot-swapping-technologie: een nieuw model wordt in minder dan vijf seconden geladen, waardoor stilstand bij het wisselen van modellen verdwijnt. Gecombineerd met GPU-optimalisatie stelt het bedrijf dat de inferentiekosten met meer dan 100x dalen, volgens eigen opgave. Daarnaast werkt Featherless AI aan een model op basis van post-transformer-architecturen uit de RWKV-lijn van open-source onderzoek, dat het bedrijf omschrijft als het grootste AI-model zonder transformer-attention, met een naar eigen zeggen 1.000x goedkopere inferentie dan transformer-gebaseerde modellen.

Het onderzoek van het bedrijf richt zich op post-transformer-architecturen, RWKV, GPU-optimalisatie en de implementatie van large language models. Als tegenwicht voor de hoge kosten van modelontwikkeling verwijst het bedrijf naar een industriële schatting van 78 miljoen dollar voor het trainen van GPT-4. De missie is erop gericht de toegang tot geavanceerde AI-modellen te verbreden in plaats van het gebruik ervan bij enkele goed gefinancierde organisaties te concentreren.