記事一覧へ
LLM推論エンジン全体、GPUカーネルとかその他のすべてを含めて、コード行数は約70K行くらいです。何だこれ?
InfrastructureAIai-industryLLMGPU
LLM推論エンジン全体がたった70K行 — GPUカーネル含む
2,06046175214,334
原文を表示 / Show original
Our entire LLM inference engine, including GPU kernels and everything else, is about 70K lines of code.
What is this?