MLXHub: ローカルAIチャット

Qwen3.6 35B-A3Bが、iPhoneとiPadで動きます。これまで手のひらの端末には収まらなかった規模のモデルです。支えているのはNANDストレージからのエキスパート・ストリーミング。モデル全体をメモリに置くのではなく、出番が来たエキスパートだけをその都度読み込み、終わったものは手放します。 対応する視覚モデルも、使っていない重さを抱えなくなりました。文字を入力している間、画像を扱う部分は眠っていて、写真を添付したときにだけ起きます。テキストだけの会話は、以前よりはっきり少ないメモリで済みます。 アシスタントはあなたのアプリに手を伸ばせます。カレンダー、リマインダー、ヘルスケアのデータ、写真、ミュージックライブラリ——いつでもあなたの許可のもと、呼び出しごとに確認します。一度説明したことはSkillとして保存でき、二度と説明し直す必要はありません。 記憶も持つようになりました。あなたについて知っておくと役立つことは次の会話へ引き継がれ、何を残すかはあなたが決めます。「設定」でひとつずつ確認、固定、削除できます。 同じローカルネットワーク上の複数の端末で分担して動かす分散推論は、実験的な機能ではなくなりました。ほかと同じ、ふつうの機能です。メッシュへの参加は引き続き無料です。 iPhoneやiPadは、家じゅうのアプリやスクリプトに応えるサーバーにもなります。ローカルネットワーク向けにチャットとテキスト埋め込み（embeddings）を、/v1/chat/completionsと/v1/embeddingsの標準ルートで、認証とローカル検出つきで提供します。 何ができるかは、選んだモデルと端末によって変わります。書き込みツール、Skills、アシスタント自身による記憶の書き込み、メッシュのホスト、LANサーバーはMLXHub Plusの機能です。それが、ほかのすべてを支えています。いつもありがとうございます。