AMD e la società di telecomunicazioni coreana KT sostengono lo sviluppatore di software AI Moreh in una serie B da 22 milioni di dollari

Advanced Micro Devices (AMD) e la compagnia telefonica coreana KT sono tra gli investitori di Moreh, che costruisce uno strumento software di intelligenza artificiale che ottimizza e crea modelli di intelligenza artificiale. La startup con sede a Santa Clara e Seul ha dichiarato di aver raccolto un round di serie B da 22 milioni di dollari, portando il totale raccolto a 30 milioni di dollari.

Moreh afferma che il suo software AI di punta, chiamato MoAI, è simile a CUDA di Nvidia ma è compatibile con i framework di machine learning esistenti come PyTorch di Meta, TensorFlow di Google e applicazioni e modelli di AI che in precedenza potevano essere eseguiti solo su Nvidia.

La startup ritiene che il software di intelligenza artificiale esistente sia adatto per modelli di intelligenza artificiale su piccola scala che utilizzano solo poche GPU (unità di elaborazione grafica), ma sia inadeguato per infrastrutture di intelligenza artificiale più massicce. Secondo un recente rapporto, poiché “l’intelligenza artificiale sta rapidamente maturando su scala aziendale”, l’infrastruttura IT e le architetture dei dati delle aziende sono “inadatte” per l’addestramento dei modelli di intelligenza artificiale.

Le soluzioni AI di Moreh consentono agli utenti, inclusi sviluppatori AI, operatori di data center e produttori di chip AI, di costruire un’infrastruttura AI più flessibile, importante data la carenza generale di GPU a livello globale, ha detto a TechCrunch Gangwon Jo, co-fondatore e CEO di Moreh.

Il software AI della startup nata tre anni fa consente alle GPU e ad altri chip AI, come le unità di elaborazione neurale (NPU), di gestire modelli AI, inclusi modelli linguistici di grandi dimensioni (LLM) come GPT-3 e T5, senza alcuna modifica del codice, Jo spiegato. (NPU è un chip specializzato progettato per accelerare gli algoritmi di apprendimento automatico, mentre la GPU viene utilizzata per il supercalcolo, l’intelligenza artificiale, l’apprendimento automatico e l’analisi approfondita dei dati dove è richiesta precisione numerica.)

KT collabora con Moreh dal 2021 per costruire un’infrastruttura AI scalabile e conveniente, basata su GPU AMD e software MoAI.

KT afferma che l’offerta di Moreh ha dimostrato che la sua tecnologia funziona e che le sue prestazioni nello sviluppo di LLM e altri modelli di intelligenza artificiale hanno superato il DGX di Nvidia in termini di velocità delle prestazioni e capacità di memoria della GPU. L’acceleratore MI250 Instinct di AMD basato sulla piattaforma MoAI ha mostrato un throughput GPU superiore del 116% rispetto all’A100 di Nvidia, secondo Moreh, che ha anche affermato che gli sviluppatori di intelligenza artificiale potrebbero ridurre un decimo del tempo totale richiesto per avviare l’addestramento per modelli di intelligenza artificiale di grandi dimensioni tramite il suo software.

Più di recente, la startup ha completato la formazione di un LLM in lingua coreana con 211 miliardi di parametri e rilascerà il modello come open source entro la fine dell’anno.

Moreh ha iniziato a generare entrate nel 2021 e mira a raggiungere circa 30 milioni di dollari entro la fine del 2023, ha detto Jo a TechCrunch.

“L’ecosistema software AI che supporta l’hardware AI AMD continua a crescere, offrendo scelta ai data scientist e ad altri utenti dell’IA mentre costruiscono modelli e soluzioni AI che guideranno la continua crescita di questo settore”, Brad McCredie, vicepresidente aziendale dei dati GPU centrale e elaborazione accelerata presso AMD, ha affermato in una nota.

Moreh utilizzerà il denaro per ricerca e sviluppo, espansione del prodotto e assunzione di personale aggiuntivo, che ora conta 70 dipendenti. Anche le società di venture capital sudcoreane Smilegate Investment e Forest Partners, l’attuale investitore di Moreh, hanno partecipato al round di serie B.