Show HN: ベンチマークに基づいてハードウェアに最適なローカル LLM をランク付けするツール (GitHub)
Show HN: Find the best local LLM for your hardware, ranked by benchmarks (github.com)
github.com ·
この記事は、HuggingFace からモデルを取得し、LiveBench や Artificial Analysis などの実際のベンチマークを統合して、ユーザーのハードウェアに合う LLM を自動判定・ランク付けするというllmツール「whichllm」について説明しています。サイズだけでなく、ベンチマークの証拠レベルや量子化効率などを考慮したスコアリングが特徴で、エンジニアは購入前にどのモデルが実際に最適かをシミュレーションできます。