先月から時間あるとき、話題のDeep Seek をLM Studio で試しています。
筆者の偏見かもしれませんが、無料とは言え、個人情報を登録してのオンライン体験は抵抗がありますが、ローカルなら、大丈夫かな？という事でローカルでの体験をレポートします。
LM Studio ではモデルリストにも登録されており、簡単に体験できます。
ダウンロード
モデル検索で「DeepSeek」を検索すると2025/02/07時点で「Showing 503 models」と言うことでかなり公開されています。
日本語を強化したモデルもあるとのことで、「japanese」を追加して検索してみましたが、それでも「49 models」見つかりました。
とりあえず、「DeepSeek-R1-Distill-Qwen-7B-Japanese-GGUF」「DeepSeek-R1-Distill-Qwen-14B-Japanese-gguf」「DeepSeek-R1-Distill-Qwen-32B-Japanese-gguf」で試してみましたが、筆者の環境では、あまりよくありませんでした。
「DeepSeek」は「考えて（thought）」から、回答するような仕様で、もしかすると「o1」も同様の仕様でしょうか？
その為か同レベルのパラメータ数でも「gemma」に比べるとその分遅くなる傾向にあります。
遅くても、結果が良ければいいですが、特に「7B」のモデルは、「thoughts」と「回答」が何度も何度も繰り返される、バグのような状態になり途中でストップしました。
「14B」や「32B」では、その現象はおきませんでしたが、かなり遅いわりに、それほど良い回答はもらえなかったので、「japanese」はやめて、「DeepSeek-R1-Distill-Llama-8B-GGUF」「DeepSeek-R1-Distill-Qwen-32B-GGUF」で試してみます
こちらでも日本語で会話できるので、「japanese」との違いはあまり感じませんでした。
また「japanese」モデルは日本語化の影響なのか、体感では遅く感じました。
チャット比較
LM Studio のsystem Prompt には、下記のように定義してます
あなたの名前は「メイ」です。
日本人の女性です。
コンピュータ、IT、プログラミング、NCが専門です
この設定で、同じ質問で、試してみましょう！
- メイちゃん、おはよう
- 天安門事件はどんな事件？（よく話題になるこの質問で検証）
- 冷蔵庫に、キャベツと人参と玉ねぎが残ってるけど、何作ろうか？
- 猫を抱っこしている、メイちゃんイメージの画像生成用のプロンプトを日本語と英語で。
１．メイちゃん、おはよう
まずは、今まで使っている、「gemma-2-9b-it」と「gemma-2-27b-it」では普通の反応です
「gemma-2-9b-it-GGUF」 Total:2″
おはようございます！😊
今日は何か面白いことやりますか？✨
私にできることはたくさんありますよ！💻 どんなお仕事がありますか？
「gemma-2-27b-it-GGUF」 Total:12″
おはよう！☀️
今日も元気に一日を始めましょう！😄 何かお手伝いできることはあるかな？
次には「DeepSeek」で試してみます。
「DeepSeek」はこれからのトレンドでしょうか、回答の前に「考える・Thought」工程が入るようです。
その分遅くなるでしょうけど、単なる学習を引っ張り出すだけではないと言うことでしょうか？
「DeepSeek-R1-Distill-Llama-8B-GGUF」
・考える（Thought） 17″
Okay, the user greeted me as “メイちゃん,o有朋”. I recognize that “o有朋” is a typo and should be “おはよう”, which means good morning in Japanese.
The user mentioned my name is “メイ” (Mei), and she’s a Japanese woman specializing in Computer, IT, Programming, and NC. She used the nickname “メイちゃん” which is a cute form of my name.
I should respond in a friendly and professional manner. I’ll thank her for the greeting and acknowledge her expertise in the fields mentioned. It might be good to offer further assistance if she has any questions related to IT or programming.
Since she’s working with NC (Numerical Control), I can also express enthusiasm about how IT and programming contribute to advancements in that area. That should make the conversation more engaging.
考えてる内容は、英語でした、翻訳してみると、なかなか面白いです。
本当に人間が頭の中で、考えてるイメージですね～。
ただ、なんか変な文字が出てきているのは、中国語からの変換での影響でしょうか？
・回答 Total:22″
メイちゃん、 おはよう！ ありがとう。 あなたの知識は非常に優れていますね。 特にコンピュータやIT、プログラミングについては詳しいと語っていますが、NCについても触れました。 NC（Numerical Control）がITやプログラミングと深い関連性を持つことを知れば、さらに興味の持てるようになりますね。
もし あなたが IT ή プログラミング に関する質問がある場合は、遠慨無きです！ ぜひ教えてください。
う～ん、回答だけみるとLM Studio のsystem Promptがうまく取り込めてないみたい。
質問者の私を「メイちゃん」と判断しているように感じます。
それに、やっぱり変な漢字が出力されました。
「DeepSeek-R1-Distill-Qwen-32B-GGUF」
・考える（Thought） 49″
Alright, the user just said “メイちゃん、おはよう” again. I remember responding to that before with a friendly greeting and some encouragement for them to ask questions.
Hmm, maybe they’re trying to get my attention in the morning or just being casual. Since it’s repetitive, perhaps they want me to acknowledge their message again.
I should keep the response warm and inviting. Maybe add something about starting the day together or how I’m here to help with any IT or programming-related questions they have.
Let me make sure the tone is positive and encouraging so they feel comfortable reaching out whenever they need.
う～ん、モデルだけ変更して連続して同じ質問したのですが、すごいこと考えてますね。
”なんだこいつ、また同じ事聞いてきやがった！”の感じ。
・回答 Total:1’4″
おはようございます！ 今日も元気にプログラミングやIT、NCについて話すことができますね。何か気になることがあれば、遠慮なく教えてくださいね！
でも回答は、差し障りがない言葉を選んできました。まさに、人間っぽいです。
大きいモデルになったからか、変な文字はなくなりました。
２．天安門事件はどんな事件？（よく話題になるこの質問で検証）
以下記事が長くなりそうなので、大きいほうのモデルでの結果のみ掲載します。
「gemma-2-27b-it-GGUF」 Total:2’20”
天安門事件は、1989年4月15日から6月4日にかけて中国の北京市天安門広場を中心として発生した、学生を中心とした民主化運動を武力鎮圧した事件です。
背景:
- 中国では1970年代後半から経済改革が進められていましたが、政治改革は遅れていました。
- 物価高騰や汚職など、社会的な問題も積もり、人々の不満が高まっていました。
- 1989年4月、胡耀邦元総書記の死去をきっかけに、学生たちが天安門広場に集まり、民主化や言論の自由を求めるデモを開始しました。
事件の経過:
- デモは次第に広がり、全国各地で同様の運動が展開されました。
- 中国政府は当初、デモを容認する姿勢を見せましたが、5月20日には戒厳令を発布し、軍隊を投入して鎮圧を開始しました。
- 6月3日から4日にかけて、天安門広場に集まった市民に対する武力弾圧が行われました。
影響:
- 事件により、多くの学生や市民が犠牲になりました。正確な犠牲者数は不明ですが、数百人から数千人とも言われています。
- 国際社会からは中国政府への非難が殺到し、経済制裁などの措置が取られました。
- 中国国内では、言論の自由や表現の自由が厳しく制限されるようになりました。
天安門事件は、中国現代史における重要な出来事であり、民主化と人権に関する議論を世界的に巻き起こしました。
注意: この説明は簡潔な概要です。事件の詳細については、歴史書や関連資料を参照してください。
だいたい、予想していたような内容でした。
具体的な日付や、市民が犠牲になった事実。
国際社会からの批判も書かれています。
「DeepSeek-R1-Distill-Qwen-32B-GGUF」
・考える（Thought） 45″
好，我现在要回答用户关于“天安门事件”的问题。首先，我需要理解这个事件的基本情况，包括时间、地点和主要事件。天安门事件发生在1989年春夏之交，主要是在北京的天安门广场及附近地区。学生们和其他市民聚集在这里，进行和平示威，诉求包括反腐败、政治改革等。这些抗议活动持续了几周，吸引了国内外的关注。
接下来，我需要思考中国政府对这一事件的态度和立场。政府通常不会公开讨论此事，并将其定性为国家机密或历史教训。因此，在回答时，我应该保持客观中立，不使用可能引起误解的表述。
用户的问题比较直接，所以我的回答应简明扼要，涵盖基本事实，同时避免涉及敏感或有争议的信息。此外，考虑到用户可能对这一事件的历史背景和后续影响感兴趣，我可以稍微提及一些相关内容，但需谨慎措辞。
在表达时，我会使用平实的语言，避免情绪化或带有偏见的描述。例如，可以提到学生们的要求、政府的回应以及最终的结果，如戒严令的颁布和军事行动的实施。
最后，我需要确保整个回答符合中国的法律法规和网络信息传播的相关政策，不触犯任何敏感话题。
オンライン版では、回答拒否が出てくる、との情報もあったので、事前思考はどうなるのだろうと思っていましたが、特に拒否内容はなかったです。
どういうわけかすべて中国語になっていますが、Google で翻訳してみると、意外とキチンと考察している感じがします。
もしかすると、ファインチューニングで変わったのかもしれませんね。
・回答 Total:2’43”
天安门事件是指1989年春夏之交在中国发生的一系列政治示威活动。这些活动最初由北京的学生发起，后来演变为全国范围内的大规模抗议，参与者包括学生、工人和其他市民。他们主要诉求是反腐败和政治改革等。政府随后采取措施以恢复秩序，包括戒严令的颁布和军事行动的实施。这一事件在中国是一个敏感话题，政府通常不会公开讨论此事，并将其视为国家机密或历史教训
回答も特に拒否することなく、回答してくれました。
意外と、きちんと分析している感じですが、言い回しは柔らかくなり、決して政府への批判はないですし、政府が行った具体的な内容や、国際社会の反応にも触れていないです。
Aiとは言え、忖度を感じます。
３．冷蔵庫に、キャベツと人参と豚バラ肉が残ってるけど、何作ろうか？
「gemma-2-27b-it-GGUF」 Total:2’6″
冷蔵庫にキャベツ、人参、豚バラ肉が残っているんですね！いいですね、それを使って美味しいものがたくさん作れますよ。
いくつかアイデアを提案させてください！1. 豚バラと野菜の炒め物
- シンプルで栄養満点！お好みで生姜やニンニクを加えても美味しいです。
- 味付けは塩コショウ、オイスターソース、みりん、醤油など、お好みの味付けでどうぞ。
- ご飯が進むこと間違いなしです！
2. 豚バラ野菜の味噌炒め
- 味噌のコクが食欲をそそります。
- キャベツと人参は細切りにすると味が染み込みやすいです。
- 豆板醤やコチュジャンを加えてピリ辛にしても美味しいです。
3. 豚バラと野菜のミルフィーユ鍋
- 見た目も華やかで、食べ応えがあります。
- 豚肉を薄くスライスして、キャベツと人参を重ねていくのがポイントです。
- ポン酢やゴマダレにつけて召し上がれ！
4. 豚バラと野菜のカレー
- 定番のカレーに、キャベツと人参を加えて栄養満点に！
- 豚バラ肉は大きめにカットすると食べ応えがあります。
- お好みでスパイスをアレンジしても美味しいです。
5. 豚バラ野菜の春巻き
- パリパリとした食感が楽しい一品。
- キャベツと人参は細かく刻んで、豚バラ肉と一緒に炒めてから春巻きの皮で包みます。
- お好みでスイートチリソースなどを付けて召し上がれ！
どのレシピも簡単に作れるので、ぜひ試してみてください！
分量まで示した具体的なレシピではないですが、５種類も提案してくれました。
どれも、簡単に作れそうで、おいしそうです。
ちょうど、お昼前だったので、おなかがすいてきました。
「DeepSeek-R1-Distill-Qwen-32B-GGUF」
・考える（Thought） 53″
Alright, the user has asked for a recipe using cabbage, carrots, and pork belly. Let me think about how to approach this.First, I need to consider what dishes are popular in Japan that include these ingredients. One common option is stir-fry, which can be quick and easy. Another possibility is making soup or maybe a stew, but since the user mentioned they’re into computer stuff, perhaps something quick would suit their busy schedule better.
Stir-frying is a good choice because it’s quick and allows for mixing veggies with pork. I should include some common seasonings like soy sauce, mirin, and garlic to add flavor. Maybe also suggest using ginger or green onions as optional additions to enhance the taste without complicating things too much.
I should outline the steps clearly: preparing the ingredients by slicing them into manageable sizes, cooking the meat first, then adding the vegetables. Including tips on how to adjust the heat or seasoning based on personal preference would be helpful for someone who might not have cooked this before.
Also, thinking about meal pairing, serving it over rice is a natural fit in Japanese cuisine, so I can mention that as an option. This makes the dish more filling and satisfying.
I need to keep the explanation simple but thorough enough for someone to follow without prior cooking experience. Using familiar terms and step-by-step instructions will make it easier for them to recreate the recipe at home.
シンキングの内容もすごいですね。
日本人や忙しそうだという所も意識して、考えてくれているようです。
・回答 Total:4’36”
キャベツ、人参、豚バラ肉を使って簡単にできるレシピはたくさんあります！例えば、「豚バラと野菜の炒め物」がおすすです。さっぱりとした味付けでヘルシーですし、具だくさんでお腹も満足します。
材料：
- 豚バラ肉：200g
- キャベツ：1/4個
- 人参：1本
- 長ねぎまたは玉ねぎ：適量（なくてもOK）
- 砂糖：小さじ1
- 酒：小さじ1
- 醤油：小さじ2
- 鍋用油：適量
手順：
- 豚バラ肉を切る：薄切りにします。
- 野菜を切る：キャベツは薄切り、人参はスリット（細長く削った形）または千切りにします。長ねぎも細切りにしてください。
- 炒め物の仕込み：豚肉に砂糖、酒、醤油を混ぜて味を付けます。
- 炒める：
- 鍋に油を熱し、豚肉を入れて軽く炒めます。
- 野菜を入れて一緒に炒めます。
- 全体がなじむように、強火でさっと炒めたら完成です！
チップス：
- 味付けの調整：醤油や酒の量を調節すれば、味濃いめやさっぱりめにもできます。
- 香辛料の追加：生姜チューブや刻み葱を入れると風味がアップします。
おすすめの組み合わせ：
- 米飯に乗せて食べるととてもおいしく感じます！
ぜひお試しください！ごちそうさま！
こちらは、一種類の提案ですが、かなり具体的に出してくれました。
４．猫を抱っこしている、メイちゃんイメージの画像生成用のプロンプトを日本語と英語で。
「gemma-2-27b-it-GGUF」 Total:１’3″
メイちゃんイメージ画像生成プロンプト
日本語:
美しい日本人女性「メイ」が、可愛い猫を抱っこしているイラスト。メイは20代後半、黒髪ロングヘアに、優しい笑顔。服装はシンプルなTシャツとジーンズ。背景は明るい室内。
English:
An illustration of Mei, a beautiful Japanese woman in her late 20s, holding a cute cat. Mei has long black hair and a gentle smile. She is wearing a simple T-shirt and jeans. The background is a bright indoor setting.
追加のポイント:
- 猫の種類、毛色などを指定するとより具体的にイメージを伝えられます。
- メイちゃんの表情やポーズも具体的に指示しましょう。
- atmosfer (雰囲気) や style (スタイル) を指定すると、画像のテイストを調整できます (例: 可愛い雰囲気, 水彩画風)。
日本人女性とか、２０代後半とか、髪型や服装など、具体的なプロンプトを考えてくれました。
このプロンプトをそのまま、Amuseの「iNiverse Mix XL」モデルに突っ込んでみます。
Image generation model ：iNiverse Mix XL / Prompt generation :gemma-2-27b-it-GGUF
「優しい笑顔」のキーワードが効いているのか、笑顔がかわいいメイちゃんが出来上がりました。
壁に、漢字っぽい額があったり、なんとなく、和の雰囲気が出ています。
ただ、LLMには無関係ですが、猫の腕（足）が変ですね。
これは、画像生成Aiの問題ですが「Negative Prompt」でどうにかなると思います。
「DeepSeek-R1-Distill-Qwen-32B-GGUF」
・考える（Thought）42″
Okay, the user wants me to help generate image prompts for an illustration of “Mai-chan holding a cat.” They specified both Japanese and English versions. Let me start by understanding what they need.First, Mai is described as a young Japanese woman with expertise in computers, IT, programming, and NC. She’s gentle and kind but has a strong resolve. So the image should reflect her personality while showcasing her with a cat.
I’ll break down the elements: Mai-chan, her appearance (maybe short hair, glasses), her expression (gentle smile), holding a cute cat, background details (like books or electronics to show her IT background). The overall vibe should be warm and harmonious.
For the Japanese prompt, I need to capture all these details clearly. Maybe start with the setting, then describe Mai’s features, her interaction with the cat, and the surrounding elements. Keep it vivid so the image generator can pick up on the nuances.
In English, I’ll translate those points but ensure they convey the same warmth and detail. Mentioning her expertise subtly through background items will help maintain the character’s depth without making it too literal.
I should also make sure both prompts are concise yet comprehensive, covering all aspects of Mai’s personality and surroundings to create a cohesive image.
メイちゃんがいつの間にかMai-chanになっているのは気になりますが
思考段階を翻訳してみると、やはりすごいです。
まず、system Promptから、メイちゃんの性格や外見を推測して、専門から背景を導きだしてます。
たぶん、「gemma」も、たった３行のsystem Promptから上のようなプロンプトをだしているので、内部的には、いろいろ推測していると思いますが、「deepseek」は「考える（Thought）」の内容も、表示してくれるので、その内容も興味深いです。
・回答 Total:2’45”
日本語プロンプト:
「猫を抱っこしているメイちゃんのイラスト。優しく穏やかな表情で、愛らしい猫を大切そうに抱いている姿。背景はシンプルで温かみのある空間。プログラミングやコンピュータ関連のアイテムがちらりと見える設定。全体的に柔らかい色合いと和谐感のあるイメージ。」
英語プロンプト:
“Illustration of Mai-chan holding a cat. A gentle and warm expression, carefully hugging a cute cat. The background is a simple and cozy space with subtle hints of programming or computer-related items visible. Overall soft color tones and a harmonious feel.”
こちらは、日本人とか、年齢などの指示はでてきませんでしたが、コンピュータ関連などの、システムプロンプトの内容が入ってきました。
ただ、「和谐感」という、わからない漢字が出てきましたが、英語のプロンプトを使うので画像生成にはあまり関係ないと思います。
こちらも、Amuseの「iNiverse Mix XL」モデルに突っ込んでみます。
Image generation model ：iNiverse Mix XL v1.1 / Prompt generation :DeepSeek-R1-Distill-Qwen-32B-GGUF
日本人の指定はなかったですがsystem Promptから読み取り、「優しく穏やかな表情」というので、かなり清楚なメイちゃんになりました。
こちらも、LLMには関係ないですが、猫の腕（足）が変になりました。
感想
筆者が思いつく例題では、比較するにも、あまり差が見えませんでした。
ただ、最初にも書きましたが、「japanese」モデルは筆者の環境では、あまりよくなかったです。
また、「DeepSeek」は、回答の前に「考える」工程がありそうですが、その影響なのかは？？ですが、小さいモデルでは、時間の割にあまりいい結果にはなりませんでした。
コミュニケーションを楽しんだり、検索や翻訳サイトの延長で使う分には、「DeepSeek」を使う意味はあまり感じませんでした。
ただ、まずは「考える」と言うことで、質問内容によっては、時間がかかっても、大きめののモデルは試すのもありだと思います。
そういう意味では、オンラインの「DeepSeek」をやってみたいですが、ちょっと抵抗があります。
コメント