コマンドラインで使えるaiスクリプト添付

ai.sh

@@ -0,0 +1,12 @@
+#!/bin/bash
+# 生成AIをコマンドで動かすスクリプト
+
+# 引数がない場合、ヘルプメッセージを表示
+if [ -z $1 ]; then
+  echo "使用方法: $0 '質問'"
+  exit 1
+fi
+
+curl -X POST -H "Content-Type: application/json" --no-buffer -d "{\"system_prompt\": \"50文字程度に要約して回答してください。\", \"user_input\": \"$1\", \"max_tokens\": 512, \"stream\": true}" http://127.0.0.1:5005/generate
+
+echo

docker-compose.yml

@@ -14,7 +14,7 @@ services:
       - MAX_INSTANCES=1                 # 同時にリクエストを受け付ける数（多いとメモリを食います）
       - NUM_WORKERS=1                   # ワーカー数（基本このまま）
       - PORT=5005                       # Flaskアプリケーションのポート（ここは変更しないで下さい。）
-      - TITLE="たねちゃっと"             # このシステムの見出し
+      - TITLE=たねちゃっと               # このシステムの見出し
     restart: always  # PC再起動後に自動でコンテナを再起動
     volumes:
       - /LLMのggufファイルを置いているパス:/app/model  # モデルファイルをコンテナにマウント