おはよう地球🌏。
いやはや、今朝は冷え込んだから結露がびっしり。朝の手間が増えるわぁ。
そんなこんなで、今日も一日ぼちぼちです。
ぬぉ？もう出勤の時間じゃん。
LM Studioを使っているのだけど、LLMごとに応答速度がかなり異なる。
LLMの特性か？とも思ったが。
そもそも、各LLMに合わせたパラメータを調整してないな、と気づき。調整に踏み切る。
…とは言え。
推奨値なんてものをネットで探したところで、目安にしかならない。
トライアンドエラーも考えたが、ちょい時間がかかりすぎる。
さて、、、
と、LM Studioを眺めていて気づいた。
それぞれのLLMに質問すれば良くね？
人じゃないが、当人に聞くのが一番速いし、ハズレも少なそう。
ってことで。
チクチク質問と調整を繰り返している。
金曜日恒例のナックファイブ。
ファンキーフライデー♪
師走になりつつあるからか、事故の目撃が増えている。
自分も気をつけないと。
LLM自体にパラメータのおすすめを尋ねている。
当然のことながら。
質問時は、パラメータの調整に不適切なところがあるから、回答まで相応の時間がかかる。
まぁ、そうだよな…と思いつつ。
パラメータ設定を終えたLLMに、他のLLMのおすすめパラメータを尋ねたところで、それが適切かどうか？ってのはかなり怪しく。
OpenAIとQwenじゃ、かなり『おすすめ』が違ってて、これはこれで興味深いし。
人にも言えるけど。
当人のことは当人に尋ねるのが一番よ。
「平和になると武器が…」という記述を見かけた。
もしも。
地球に平和な日々が訪れ、地球上の生命に対して武器は使わなくなったとしても。
太陽系外から飛来する天体の進路を変えるとか、天体そのものを壊すとか。
そういった用途での武器は残るのよね。
もっとも。
地球に平和が訪れるとしたら、人類が地球から居なくなる時だろうから、地球防衛用の武器は要らないかもね。
さて。
パラメータの回答は出たかな？
ありゃ？まだかー。
標準だと遅いわ。かれこれ1時間。
まぁ、調整終えると劇的に変わるLLMもあるから、気長に待つ。
LLMのモデルによっては、2時間以上経っても回答を得られない。
とりあえず、遅いのは後回しだな。
ちなみに。
LLMに、LLMおすすめのパラメータを尋ねているのだけど、この時用いる質問が的確じゃないと、当然回答はヘロヘロ。
当たり前っちゃ当たり前だけど。
初手は大事。
いやぁ。
LLMの提供元によっては、パラメータが全然違う。
こんなに違う？！と、思ってもいなかった。
ってことは、あれだ。
AI専用のハードウェアを積んだパソコンが出始めているけども。あれを本気で使うのなら、相応の設定が必要になる・・・はず。
WindowsのCopilotだけを使うのなら、マイクロソフトが調整してくるのだろうけども。他社のLLMを使うのなら相応の設定が要るのだろう。
裏返せば。
標準設定でしか使わない人は、マイクロソフトの囲いを出ると途端に不自由な世界となる訳で。なかなかの壁だよなぁ・・・。
LM Studioの調整をしていたら日付変更線超えてるし。
とりあえず調整したLLMに関しては、まぁまぁ速くなったことは確か。実践してはいないけれど、テストはOKって感じ。
続きは明日にしよ。
寝よ。
おやすみ地球🌏。
～11月20日のスレッズより
