文章の最後や脚注（オーサーズ・ノート）に指示を書き加えることで途中で視点を変えたり、作中のキャラクターに質疑応答させたりすることができます。AIはそこまでに書かれた内容から答えやキャラクターの感情を推論します。

[ （ブラケット）はデフォルトで禁止ワードに指定されているため、ブラケットで文章を囲むことで、中の文章がAIに本文ではなく説明文であると認識させることができます。説明文をブラケットで囲まない場合、内容が逐次そのまま言い換えられて出力されてしまう場合があります。

---

視点変更の例：
[ここからサキ視点。一人称。]
[サキの父親視点。三人称。]

---

場面転換し、これから展開されるシーンの内容をAIに認識させる例：
（改行1行）
[春のコーヒー屋。デリダがノイマンに食ってかかる。]

（改行を1行加えることで、軽度の場面転換であることをAIに認識させることができます）

---

質疑応答の例：
サキが質問に答えている。
Q:クラスの学級委員長は誰？
A:

---

俳句（？）を書かせてみる例：
俳句を書いてください。
1.古池や　蛙飛びこむ　水の音
2.

（リストにして書かせるのがコツ）

---

ストーリーを要約させる例：
ここまでのストーリーをまとめると
・

（改行後のドットで箇条書きにさせるのがコツ）

どのような内容の文章を生成するかある程度指示することができます（うまくいかない時は生成プリセットの「タスク」を選んでください）。例えば

名前：（好きな名前）
性別：（男・女など）
性格：
と入力（改行を含む）すると

---

体重64キロ。血液型はo型、星座はかに座。趣味・特技:読書と映画鑑賞。好きな食べ物はカレーうどん(特に辛いのが大好き)。嫌いなものは唐揚げとポテトチップス。

---

などと返ってくる。

チーズケーキについてのまとめ記事：
と入力（コロンを含む）すると

---

チーズケーキの作り方・レシピ集はこちら!チーズケーキを自宅で作るには、まず材料と道具を揃えなくてはなりません。その前に用意しておきたいのが、おしゃれな手土産ですよね?でも
「これだけは持って行きたくない」という物もあるかと思います。そこで今回は、普段から持ち歩いておくべき、厳選したオススメのお菓子

---

と返ってくる。

トルコ人はピカチュウとオズワルドのどっちが好きか調べてみました。
答えは
と入力（改行を含む）すると

---

「ぼくはどちらかというと、おまえたちのほうが好きだよ」と、トルコ人のおじいさんが言ったそうです。

---

と返ってくる。

AIをより細かくチューンできる機能がMODです。
任意のコーパス（テキスト）を読み込み、その文章のテーマやスタイルを学習したプロンプトAIが入力と出力の間に入ることで、細かく設定しなくても思い通りの文章が出力されやすくなります。
自分だけのMODを訓練すれば、ユーザー同士で自由に共有して楽しめます！

ポイント
1. MODは入力した文章が短いときに最も効力を発揮します。新しい作品を開いて試してみましょう。

2. 反対に、2048トークンをフルに使ったプロンプトではあまり変化が感じられないことがあります。作品の途中でMODを変更したい時は@breakコマンドを活用するなどして、AIに読ませるトークン数を一時的に減らしてみましょう。

3. 最大100トークンがMOD用にリザーブされます。

MOD訓練のポイント
1. 用意するコーパスはノイズの少ないものが好ましいです。過剰な改行や、行頭の空白などは自動で取り除かれますが、無関係な文章やhtmlタグが混ざっていると思ったような結果にならない可能性があります。

2. コーパスに使うテキストの文字コードはUTF-8のみ対応しています（Shift-JISやEUC-JPには対応していません）。最近のテキストはほとんどの場合UTF-8でフォーマットされていますが、古いテキストを読み込む場合はご注意ください。

3. 基本的にはコーパスの量が多いほど高い精度が期待できますが、少なくとも10キロバイト程度のテキストがあれば訓練が可能です。一度に読ませることができるサイズは最大で16MBです。

4. lossの数値は低いほど精度が高いことを意味します。小説的な自由度の高い文章のlossは高く、ソースコードなどフォーマットの決まっている文章のlossは低くなる傾向があります。2.91以下であれば高精度のラーニングができています。

5. 訓練するステップ数に応じてルミナを消費します。ステップ数はコーパスの量に合わせて自動的に調整されますが、極端に高い精度を求めないのであればステップ数を減らすこともできます（ステップ数を減らすと、処理時間もそれに応じて短くなります）。

プライバシーについて
MOD訓練用にアップロードしたコーパスはトレーニング終了後にサーバーから削除されるほか、MODのユニークIDからはアップロードしたユーザーが推測できないようになっています。

EleutherAIによる、TPU（テンソル・プロセシング・ユニット）向けオープンソースの自然言語処理AIフレームワークであるMesh Transformer JAXをベースとし、総1.5テラバイト、有効学習量約525GB（beta2）の独自コーパスで68.7億パラメータのAIを小説生成向けにフルスクラッチで訓練したAIです。

OpenAI GPT-3 Curieに匹敵するサイズとなっています。約5368億文字分、文庫本174万冊分の知識を68.7億パラメーターに圧縮したAIとも表現できます。

※現在開発中の次世代版AIはMTJと異なるDeepSpeed・GPUベースのフレームワークを使用しています。

このプロジェクトはGoogle TRCの協力及び極めて寛大なTPU演算環境の提供、EleutherAIのコミュニティの皆様およびBen Wang氏をはじめとする開発者の方々のサポートによって実現しました。この場をお借りしてお礼申し上げます。