USB一つにAIを搭載 — LG EXAONE 3.5 韓国語最強小型モデル実戦レビュー

インストール不要、USB一つでAIチャットボット

MONKOSがLG AI ResearchのEXAONE 3.5 (2.4B)をオンデバイスで駆動することに成功しました。

llamafileエンジン上にEXAONEを搭載し、USB一つにAIチャットボット全体を収めました。インターネット不要、インストール不要、挿すだけで会話が始まります。

なぜEXAONEなのか

2.4Bパラメータの軽量モデルの中で韓国語性能1位 (KoMT 7.24)。DeepSeek、Llamaなど競合モデルで頻繁に見られる韓英混合現象がEXAONEでは発生しません。

実測性能

環境 速度
iMac (Intel CPU) ~1 tok/s
RTX 4060 (GPU) 30~50 tok/s
USB (Windows PC) 5~15 tok/s

小規模事業者にとっての意味

「私よりも私の店をよく知るチャットボット」— 店長の専門知識を学習したAIが24時間顧客対応。クラウド費用ゼロ、データ漏洩の心配ゼロ。

これがMONKOSが追求する小規模事業者向けAIチャットボットの真髄です。