FLATTOPの文案づくりにはAIを使っています。
そう話すと、たいてい最初に聞かれます。
「利用者さんの情報、外に出ませんか？」
当然の質問です。
支援記録や計画書には、名前も、病名も、家族のことも書かれています。
今回は、FLATTOPがなぜ今の形になったのか、その顛末の話です。
最初は「事業所のパソコンの中だけ」で動かすつもりだった
最初に考えたのは、AIを事業所のパソコンの中で動かす方法でした。
外に出さなければ、心配はいりません。
ところが、遅い。
文案ひとつに1分以上かかりました。
事業所のパソコンは性能がまちまちです。「AIのために高いパソコンを買ってください」とも言えません。
GPUを積んだクラウドも試しました。生成自体は速いのですが、使うたびに起動まで2分以上待たされ、同時に1件しか動かせない構成もありました。
これでは日々の業務には使えません。
国内のAIを選んだ理由
最終的に選んだのは、国内の事業者が提供するAIサービスです。
決め手は、利用条件として次の点を確認できたことでした。
- サーバーが国内にある
- 送った内容とAIが返した内容は、原則として保存しない
- 送った内容をAIの学習に使わず、第三者にも提供しない
使っているAIの中身は、OpenAIが公開したモデルです。
ただし、動いているのは国内の事業者のサーバーで、OpenAIのサービスへ直接データを送る構成ではありません。
ChatGPTの画面へ支援記録を貼り付けて使うのとは、仕組みが違います。
一方で、利用条件には「事業者の事前の承諾なく、サービスを第三者に利用させてはならない」という趣旨の決まりもありました。
FLATTOPは、事業所の職員にこのAIを使ってもらう仕組みです。これに当たる可能性があります。
そこで、事業者へ直接問い合わせました。
回答は、今回の利用形態は対象になるものの、問い合わせをもって承諾するという内容でした。障害対応のため一時的に保存した内容についても、対応終了後に破棄するという説明でした。
このやり取りは、委託先を選んだ記録として残しています。
「再委託」という言葉について
事業所はFLATTOPに、記録や計画書などを扱う業務の一部を任せます。これが委託です。
FLATTOPは、その処理の一部をAIの事業者に任せます。これが再委託です。
事業所との契約書には、再委託先とその役割を一覧にして載せるようにしています。
知らないうちに別の会社へ情報が渡る、という形にはしません。
それでも名前は渡さない
国内で、学習にも使わない。
それでもFLATTOPは、利用者の名前をAIに渡さない設計にしています。
AIへ送る前に、名前、電話番号、生年月日、住所などを記号へ置き換えます。
AIが読むのは「利用者A」「家族A」といった形です。
返ってきた文章は、FLATTOPの中で元の表示へ戻します。置き換えの対応関係は、AI側へ送信しません。
さらに、置き換えた後にもう一度確認します。個人を直接特定する情報が残っていれば、その時点で送信を止めます。
AIは「下書き係」
もうひとつ決めていることがあります。
AIが書いたものを、そのまま確定しないことです。
AIの文章はあくまで下書きです。
読んで、直して、確定するのは職員です。
便利さと引き換えに、安心を手放すつもりはありません。
第2話は、そんな「AIに何を渡すか」の話でした。
コメントを残す