記事一覧へ
LLM推論エンジン全体、GPUカーネルとかその他のすべてを含めて、コード行数は約70K行くらいです。何だこれ？
InfrastructureAIai-industryLLMGPU
LLM推論エンジン全体がたった70K行 — GPUカーネル含む
♥ 2,060↻ 46🔖 175👁 214,334
原文を表示 / Show original
Our entire LLM inference engine, including GPU kernels and everything else, is about 70K lines of code.
What is this?