Ainda assim, os desenvolvedores dizem que trazer código do CUDA da NVIDIA para o ROCM não é um processo suave, o que significa que eles normalmente se concentram na construção de apenas um fornecedor de chip.
“O ROCM é incrível, é de código aberto, mas é executado no hardware de um fornecedor”, Lattner disse à multidão no evento AI avançado da AMD em junho. Então ele fez seu argumento pelo motivo pelo qual o software da Modular é mais portátil e torna as GPUs muito mais rápidas.
A palestra de Lattner na AMD é representativa do tipo de dança que Lattner e Davis precisam fazer o que espalham o evangelho modular. Hoje, a NVIDIA e a AMD são parceiros cruciais para a empresa. Em um futuro universo, eles também são concorrentes diretos. Parte da proposta de valor do Modular é que ele pode enviar software para otimizar as GPUs ainda mais rápidas que a Nvidia, pois pode haver uma lacuna de meses entre quando a Nvidia envia uma nova GPU e quando libera um “kernel de atenção”-uma parte crítica do software GPU.
“No momento, o modular é gratuito para a AMD e a NVIDIA, mas com o tempo você pode ver que as duas empresas se sentindo ameaçadas por Rocm ou Cuda não sendo o melhor software que fica no topo de suas fichas”, diz Munichiello. Ele também teme que os potenciais clientes em nuvem possam se recusar a pagar por uma camada de software adicional como a Modular.
Escrever software para GPUs também é uma “arte escura”, diz Waleed Atallah, co -fundador e CEO da Mako, uma empresa de otimização de kernel da GPU. “Mapear um algoritmo para uma GPU é uma coisa incrivelmente difícil de fazer. Existem cem milhões de desenvolvedores de software, 10.000 que escrevem kernels de GPU e talvez cem que possam fazê -lo bem”.
Mako está construindo agentes de IA para otimizar a codificação para as GPUs. Alguns desenvolvedores pensam que esse é o futuro para a indústria, em vez de construir um compilador universal ou uma nova linguagem de programação como modular. Mako acabou de arrecadar US $ 8,5 milhões em financiamento de sementes da Flybridge Capital e o acelerador de startup Neo.
“Estamos tentando adotar uma abordagem iterativa para codificar e automatizá -la com a IA”, diz Atallah. “Ao facilitar a redação do código, você aumenta exponencialmente o número de pessoas que podem fazer isso. Fazer outro compilador é mais uma solução fixa.”
Lattner observa que o Modular também usa ferramentas de codificação de IA. Mas a empresa tem a intenção de abordar toda a pilha de codificação, não apenas kernels.
Existem aproximadamente 250 milhões de razões pelas quais os investidores pensam que essa abordagem é viável. Lattner é uma espécie de luminar no mundo da codificação, tendo construído anteriormente o projeto de infraestrutura de compilador de código aberto LLVM, bem como a linguagem de programação Swift da Apple. Ele e Davis estão convencidos de que este é um problema de software que deve ser resolvido fora de um grande ambiente de tecnologia, onde a maioria das empresas se concentra na criação de software para sua própria pilha de tecnologia.
“Quando saí do Google, fiquei um pouco deprimido, porque realmente queria resolver isso”, diz Lattner. “O que percebemos é que não se trata de pessoas inteligentes, não se trata de dinheiro, não se trata de capacidade. É um problema estrutural”.
Munichiello compartilhou um mantra comum no mundo dos investimentos em tecnologia: ele diz que está apostando nos próprios fundadores tanto quanto em seu produto. “Ele é altamente opinativo e impaciente, e também na maioria das vezes”, disse Munichiello sobre Lattner. “Steve Jobs também era assim – ele não tomou decisões com base em consenso, mas costumava estar certo.”
