
ご支援ありがとうございます。YASAKANI v0.1.4とv0.1.5を公開しました。
【v0.1.4:コードやデータの編集が速くなりました】
元のコードやデータの大部分を残し、一部だけを書き換える作業で効果があります。RTX 5090・思考なしで、v0.1.2と比べた結果です。
・JSONLの編集:1,125→2,298 tok/s(2.04倍)
・コードの編集:1,210→2,025 tok/s(1.67倍。品質モデルは1.78倍)
文章生成や翻訳などの速度は、ほぼ変わりません。思考ありで使う場合も、思考部分は速くなりません。一度に確かめる量を最大64トークンに増やす処理は、RTX 50シリーズのみが対象です。
また、同じ資料について続けて質問するときは、前回の読み込み結果を使い回すようになりました。22.4万トークンの資料で、回答が始まるまでの待ち時間が116秒から0.37秒になりました。
そのほか、起動時にNVIDIAドライバーの版(580以上)を確認し、RTX 5090以外のGPUでも自己点検で計算の正しさを確かめるようにしました。
【v0.1.5:不具合の修正】
GitHubで修正や報告を寄せてくださった5人の方々の改善を取り込みました。ありがとうございます。RTX 5090で確認した課題では、出力はv0.1.4と完全に一致し、生成速度も変わりませんでした。
・ツール呼び出しで、渡すデータに特定の文字列が含まれると正しく読み取れない不具合を修正しました。モデルが出力した"True"・"False"も、文字列ではなく真偽値として扱うようにしました
・1回の依頼に同じ画像が2枚含まれる場合、画像の読み込みを1回にまとめました(3.19秒→1.75秒)
・16GBのGPUで扱える文章量の上限を大きく設定したとき、GPUメモリが不足する問題を修正しました
・GPUが2枚あるPCで、使用するGPUの番号の対応がずれる問題を修正しました(2枚の実機での確認は、報告者の方に依頼中です)
・2つのエンジンを同時に動かしたときの不具合などを修正しました
【お知らせ】
・モニターをGPUにつないでいると、生成が遅くなる場合があります。RTX 5070 Tiでは、モニターをCPU内蔵グラフィックスにつなぎ替えると1.5〜2.1倍速くなったという報告をいただきました
・これまでの版をお使いの方は、新しい起動ファイルを入れてSTART.cmdを開くだけで更新できます。ダウンロード済みのモデルは、そのまま使えます



