Updated by 清水 亮 on November 7, 2025, 16:14 pm JST
清水 亮 ryo_shimizu
新潟県長岡市生まれ。1990年代よりプログラマーとしてゲーム業界、モバイル業界などで数社の立ち上げに関わる。現在も現役のプログラマーとして日夜AI開発に情熱を捧げている。
かねてから開発していた新製品のβ版が完成した。名付けて「KnowledgeSTATION(ナレッジステーション;以下ナレステと呼ぶ)」
ナレステはローカルLLMの発展と、半導体の革新的進歩によって生まれた完全ローカルなエージェンティックAIシステムで、クラウド等と一切通信することなく完全にローカルで動作する。
使い方は簡単で、社内のネットワークにナレステを接続するだけ。それだけでLAN内のブラウザからナレステにアクセスすることができる。
ナレステにはWord形式のDocxファイルやPptxファイル、PDFファイル、画像などをアップロードするかハードディスクを接続してブラウザから指示することで自動的に内容を読み取り、LLMでチャンク化と要約を行い、チャット形式で知識を引き出せるほか、自動的にマインドマップやワードクラウドが生成される。また、各チャンクの特徴ベクトルからチャンクごとに要約した概念を3D空間に投影してアイデアを俯瞰することができる。
拙著「検索から生成へ」の原稿をまるごと読ませた結果は以下のような感じになる。
もちろん、いわゆるRAG的な検索機能もある。
単にRAGを構築するのではなく、インデックスの作り方や検索方法に独自のアルゴリズムを加え、従来の単純なRAGの欠点だった「肝心のほしい情報が出てこない」という問題をも克服している。
仕組みとしては、ユーザーから入力された質問文からLLMで検索キーワードを連想させたり、インデックスの作り方を通常の埋め込み(Embedding)だけではなく、独自のインデックスを生成することで精度を上げている。
実はこうしたシステムをクラウド型のAIで作るのは意外と困難だった。
なぜならば、クラウドは定期的に内容が変わったり、LLMの返す言葉の「癖」が変わったりして動作が安定しないからだ。
ところが完全にローカルなLLMを使うと、こうした問題が解決する。
クラウドと違って、日によって動作が違うということがまずありえないからだ。
今回、ASUSから発売される超小型AIスーパーコンピュータASUS Ascent GX10で構成したが、これが思いのほか高性能でビックリした。はっきり言ってこのサイズでここまでの高性能とは思わなかった。
大きさとしては、ちょっとした弁当箱くらいのサイズで、Mac Studioに比べるとデザインは似てるものの衝撃的に小さい。これなら常にリュックに入れて歩いてもおかしくない。重さはそれなりにあるがMac Studioほどではない。
こんな小さいコンピュータで、これほど高度な言語処理ができるようになったという現実にまず驚く。これまでいろいろな事情でクラウドのAIにできれば送りたくなかったような文章や画像といったものを完全にローカルで制御できるようになったことは素直に驚きだ。
もともとこれを作ろうと思った動機は、自分の過去の著作や原稿、外には出せない日記とか、個人的な写真とか、社外秘の情報、特にクライアントの絡む社外秘の情報をLLMに入れていろいろと考え事をしたかったからだ。また、講演するときなどに過去にスライドを書いたはずだがそれがどこにいったのか思い出せなかったり、探すのに多大な手間がかかったのがきっかけだった。まさに筆者個人にとっては必要なものを自分で作ったというわけだ。
だから最初はiCloud上のPDFを徹底的にクローリングして解析するツールを作るところから始まったのだが、「これはもっといろいろできるのでは?」と欲が出て結果的に製品開発することになった。
本当にGPUが動いてるのか?という疑問にお答えするために、GPU稼働率もリアルタイムで表示される。
DEEPstation以来久しぶりにこういう実用的なアプリを開発したが、AI支援のおかげで極めて効率的に開発ができた一方、やはりAIだけではかゆいところに手が届かないなということがわかってきた。
AIと二人三脚で生きていく時代のために、ぜひ体験していただきたい。
この製品は明日、ベルサール秋葉原で行われる「AIフェスティバル2025」の二階会場ギリアブースにて参考出展する予定。
入場無料だし落合陽一さんほか多彩なゲストも登場するのでぜひ遊びに来てください。
詳細はこちら https://www.aifestival.jp
