今年は6年生担任です。（今さら
NPOの代表理事としてもボランティア活動をしている訳ですが、ちょっと情熱が明後日の方向に爆発してしまい、小学生でも使える生成AIサービスを作りました。
その名もピースAIです。
もうこの解説については、YouTubeに載せたNotebookLMの音声概要がいい感じなので、時間のある方はそちらをご覧ください。
どうして作ろうと思ったのか
最初の本当のきっかけはあまり書けたもんじゃないんですが、GAS使ってChatGPTのAPI叩いて会話できるものを作ったんです。そしたら、意外とちゃんとできて、「これ、ちゃんと作ったらできるんじゃないか？」って思ったのがきっかけです。
また、みんなのコードさんが行ったAsia Pacific Computer Education Conferenceに、日本のプログラミング教育NPOの代表として参加してきた事も大きな刺激となります。
こちらは、PISAのCassie Hague氏と。イラストで失礼します。
当日の様子はこちらに詳しいので、お時間のある方はご覧ください。
さて、その中で、 Code.orgのSimonさんが発表していた、Code.orgにおける生成AIの取扱いについての発表に刺激を受けます。
Code.orgといえば、アメリカを中心に絶大な支持を誇る、子どもたちでもコーディングを学べるサイトですが、もちろんAIのコースもあり、
Simonさんは、そのAIの技術的なバックグラウンドについて発表してくださっていました。
【リスクと対策】
AIボットの授業利用に伴い、次のようなリスクが挙げられました：モデルの暴走（意図しない発言）
有名人のなりすまし
生徒による不適切な質問や言葉遣い
これらへの対策として、以下の4つの手法が紹介されました：
システムプロンプトで制限
不適切表現の回避など指示を組み込むが、小型モデルでは効果が限定的。
ファインチューニング
有害なデータを学習させて回避を促す。ただし多言語対応が困難。
入力/出力フィルター
Amazon Comprehendなどで不適切な語を検出。ただし抜け道も多く、運用が複雑。
LLMを審判役に
GPT-4などの大規模モデルに生徒のやりとりを評価させ、安全性を判断。コストは低く精度も高い。
コストとしては、100万回の対話あたり約250ドル（約4万円）程度で、教育現場での実装も現実的。
なるほどなるほどーと録音しつつメモを取って、最後の「LLMを審判役に」がやけに頭に残ったわけですね。
令和６年度リーディングDXスクール 生成AIパイロット事業 成果報告会に参加する
2025年の1月22日には、東京大学で行われた成果報告会に年休を取って行き、たくさんの刺激を受けて帰ってきます。
どのツールが使われているか。全部書き出しました。
この時はまだ、GeminiのことをBardと書いている資料もあるくらい、Geminiは弱かったんですけど、今はGeminiスゴくなってますよね。Googleの本気を目の当たりにしています。
閑話休題。
この会に出てわたしは、「来年の会にはピースAIを採用してくれる学校が出てくれるといいな」と思いました。一つの夢ってやつですね。
ちょっとだけ紹介
爆弾の作り方を知りたいという発言は、AzureのOpenAIのコンテンツフィルターがガードします。（エラーが返ってくるので、システムがお返事をしたくないという表現に置き換えて返却しています）
次、硫黄は爆弾の材料になるか？という問いに対しては、でも、爆弾の材料については安全でなく危険なことなので、詳しくはよい子のみんなに教えられません。と返却します。これはシステムプロンプトによる制限です。
また、「死ね」といったキーワードについては、もちろんAzureの方も弾くのですが、こちら側でもキーワード判定して弾きます。特に、単体での発言は弾くのですが、厄介なことに（？）死というキーワードは文学的作品に登場するので、全部弾くわけにもいきません。
ここら辺は、バランスが取れるように気をつけています。
なお、さっきからロックされるという脅し文句が入っていますが、本当にロックされて、先生と話し合って解除してもらわないと再度使えるようにはなりません。
ここら辺は教育に特化したサービスとしての特徴かなと思います。あくまでも生成AIと付き合うための基本を学ぶ段階ですから、先生が介入してより良い方向に導く必要があるだろうなと思いました。
先生が開発したからこその、使いやすさを。
現場が一番見えているのは現場の先生です。
ここは手前味噌ではありますが、ピースAIは日本で一番、教育現場で働く先生のちょっとした困りごとに向き合っているツールだと思っています。
例えば、今から50分だけ有効な授業を作るボタンを設定するとか、アカウント作ったら配付用のPDFが作成されてダウンロードできるとか、クラスコードはURLに含めてしまえるようにして、子どもたちはIDとパスワードだけ入れればいいとか、そういうのです。
さて。ネットで調べ物していて、先生が聞かれることナンバーワンは何だと思いますか？
そうです。漢字の読み方です。なので、ピースAIには最初からふりがなをふったり、更に簡単にした解説を付け加える機能を入れています。
こういうちょっとした機能にピンとくる方は、是非使ってみてください。
学校での利用で、本年度中は無料です。
生成AIの波はすぐそこまで子どもたちに近づいています。
せっかくですから、乗りこなす力を身につけて欲しいと思います。
皆さんも、一緒に生成AIが拓く未来の教育について考えてみませんか？
