Synology ChatにAI botを追加して見た。ollama、OpenChat、DeepSeek、phi3:mini、gemma:2b

最近、仕事をする上で、AI(自分はCopilotが好き)との会話で、コード生成などを行っています。

ですが、時々、おかしな方向に行くときがあったり、何度も同じ説明をしてみたり、会話が進まないときが結構あります。

なので、自分専用のAIとかって用意できないかな?という気持が湧きました。

最近使ってるPleasanterのコード生成なんかを手伝ってくれるやつ。

Copilot君も優秀なんだけど、時々、独自路線を突っ走るので、専用のAIを作った方が楽なのでは?と思った次第です。

説明は簡単に済ませます。(実際は結構しんどかったのです。)

Dockerにollamaを設定します。(OpenChatとDeepSeekを導入、後にDeepSeekは削除、phi3:miniを導入)

下記のサイトを参考にして、Pythonを再作成

このpythonは主にSynologyChatとollamaを繋ぐ役割ですね。

最後にSynology Chatの設定を行う。

そして、Tera Termを使い、会話をテスト。

そして、それが上手く行ったら、Synology Chatと繋がるかのトライ&エラー、三日目にようやく繋がって、上のような会話をしたということです。

そして、最終的にこのアプリをDocker化しました。
(自分、そんなスキルは無いのですが、Copilot君が優秀でして。。)

ホント、Copilot君、うちの子にしたい。。

さて、このAI Bot ですが、応答はかなり遅いです。

Openchatはまだましですが、DeepSeekはホント遅いです。

性格もかなり違っていて、DeepSeekは生まれたてのポンコツで、OpenChatは日本語が片言な変人です。www

段々と育っていくのかなぁ。。

よく分かりません。

便利になってくれると良いのですが。

ちなみにDeepSeekとOpenChatを選択した理由ですが、VRAMを使用しないAI(CPUの能力だけで動いているらしい、NVIDIA(グラボ)は不要とのこと)なので、使ってるということです。

とりあえず、この応答がOpenChatですね。

結構、使えるかもしれません。癖が無く素直に回答してくれてます。

その一方で、DeepSeekです。

会話にならない感じでした。

自分語りみたいな前置きが続いて、長すぎてSynologyChatの一回1000文字を軽く超え、3000文字くらい書きます。

なので、SynologyChatでは会話ブチ切れの傾向です。

TeraTerm上(デバッグ時)では見れたりするのですよね。

AIって、会話する設定(プロンプト)とかをするんですよね。

その設定の中で、1000文字で会話するように依頼しているのですが、無視するんですよね。

ほんと、言うこと聞かない。

で、最初だけなのかなぁ。。と我慢して会話するのですが、無理ですね。

C国産なので、人種的に無理とかあるんでしょうか。

分かりませんが、耐えられず、削除しました。

phi3:miniをDeepSeek削除後セットアップしてみました。

これもなんかおかしな方向へ向かいます。

しょっぱなから自分が飛ばし過ぎなんでしょうか。

もっと、あそこのサイトのあれ読んで貰ってからとかの順番なんでしょうかね?

わかりません。

ちょっと、DeepSeekよりは良さそうですが、OpenChatよりは難しいかもしれません。

Code生成に向いているらしいのですがね。DeepSeekとphi3:miniとか。

どうなる事やら。試してみましょう。

gemma:2bもセットアップしましたよ。

この子は反応がQuickです。凄い速い反応を示します。ビックリですね。

あとは処理的にどうなっていくのかというとこでしょうか。

今後に期待です。

反響があるなら、もっと深い所まで公開しても良いかもしれませんが、まぁ、今の所は、こんなのもできるということですね。www

参考になれば幸いです。

コメントを残す

メールアドレスが公開されることはありません。 * が付いている欄は必須項目です

このサイトはスパムを低減するために Akismet を使っています。コメントデータの処理方法の詳細はこちらをご覧ください