Komplexný proces, ktorý stojí za tvorbou softvérov umelej inteligencie, stojí nemalé množstvo finančných prostriedkov. Náklady na vývoj a správu softvérov sú naďalej extrémne vysoké a s rastúcim záujmom investorov sa za víziou zaradenia umelej inteligencie do bežného života človeka skrýva potreba optimalizácie vysokých procesných nákladov.
Proces tvorby GPT-3 od OpenAI modelu bude stáť niekoľko miliónov
Analytici a IT pracovníci stojaci za výskumom umelej inteligencie a tréningu jazykových modelov odhadujú výšku nákladov na tvorbu GPT-3 modelu v hodnote 4 miliónov dolárov. Napríklad, najväčší LLaMA model spoločnosti Meta použil 2048 mikročipov typu A100 pre tréning 1,4 biliónov tokenov (750 slov zodpovedá 1000 tokenom). Najväčší tvorca GPU mikročipov pre odvetvie umelej inteligencie Nvidia dodáva svoje primárne procesory A100 za 10 000 dolárov za kus.
Generálny riaditeľ AI startup-u Hugging Face Clement Delangue zdôraznil, že proces trénovania jazykových modelov je síce extrémne nákladný, neuskutočňuje sa však pravidelne. „Je dôležité si uvedomiť, že trénovanie modelov nie je každodenná záležitosť. Momentálne pracujeme na druhej verzii nášho jazykového modelu Bloom a nebude to stáť viac ako 10 miliónov dolárov. Nie je to vec, ktorú chceme robiť každý týždeň“, vyjadril sa podľa portálu cnbc.com Delangue. Niektoré startup-y sa však zamerali na tieto vysoké náklady a hľadajú v nich obchodnú príležitosť.
Prevratný krok OpenAI
OpenAI v súvislosti s touto témou prednedávnom znížila náklady pre prístup spoločností k ich GPT modelom. Momentálna suma, ktorú si OpenAI účtuje, je pätina centu pre 750 slov výstupu. To neuniklo pozornosti spoločnosti Latitude, zakladateľa AI Dungeon-u (voľne hrateľná textová adventúra, ktorá využíva umelú inteligenciu na generovanie obsahu, pozn. red.), ktorá využíva pre svoju hru práve model GPT od OpenAI. „Sme nadšení, že sa takáto udalosť stala v odvetví a neustále sa snažíme napredovať v procese sprostredkovania tých najlepších skúseností pre našich užívateľov. Latitude bude naďalej vyhodnocovať modely umelej inteligencie pre zabezpečenie poskytovania tej najlepšej hry“, vyjadril sa hovorca spoločnosti.
S narastajúcim záujmom o umelú inteligenciu sa prikladá čoraz väčší dôraz na extrémne vysoké náklady, ktoré brzdia vývoj tohto odvetvia. Technologickí giganti, ako sú napríklad Microsoft, Meta a Google, investujú množstvo kapitálu do optimalizácie nákladov pre vývoj umelej inteligencie, čo môže byť kľúčovým aspektom pre vývoj odvetvia a napredovanie AI spoločností, ktoré sú v hľadáčiku dnešných investorov.
Zdroje: cnbc.com