BitNet-b1.58-2B-4TをCPUだけで動かしてみた話｜quoota

はじめに Microsoft Researchが2025年4月に公開した「BitNet-b1.58-2B-4T」は、20億パラメータ規模で、世界初のネイティブ1-bit量子化LLMです。 「1-bitなら軽いし、ノートPCでGPUなしでも動かせるのでは？」 そんな淡い期待からスタートした今回の検証ですが、結論としては 「動く。ただし限定的」 という結果になりました。 本記事では、BitNet...

note.com

【第2回】InstructLabを試すための環境構築手順（Docker編）｜quoota

🔰概要 InstructLabは、大規模言語モデル（LLM）に新しい知識やスキルを学習させるためのフレームワークです。 GPT-4などの高価なモデルを使わずに、独自のタクソノミー構造と合成データ生成により、安価かつ柔軟にモデルを微調整できるのが特徴です。 本記事では、InstructLabを実際に動かすためのDocker環境構築手順を紹介します。 🎯 目的（執筆の背景） Instruc...

note.com

【初心者向け】Google ColabでMeCabを使って日本語の共起ネットワークを可視化してみた｜quoota

はじめに Google Colab上で日本語テキストを解析したい人向けの記事です。 今回は「MeCab × NetworkX × Matplotlib」を使って、共起ネットワークの可視化まで行います。 特別な環境構築は不要。Colab上ですぐに試せます。 2025年3月時点で実装した内容であることを予めご了承ください。 ✅Step 1：Google ColabでMe...

note.com