お問合せ
note

社会福祉

個別支援計画をAIで下書きするときの注意点|制度と実務の境界線

「個別支援計画をAIに書かせてもいいんでしょうか」

ここ1年ほど、社会福祉法人様から最も多く受けるご質問のひとつです。計画作成の負担は現場で突出して重く、生成AIの文章力なら下書きくらいはできそうに見える。当然の発想だと思います。

結論から書きます。「使ってはいけない」という規定はありません。ただし、AIに任せられない工程が制度上はっきり決まっており、そこを飛ばすと減算や指摘の対象になります。

この記事では、指定障害福祉サービス基準(平成18年厚生労働省令第171号)第58条、児童発達支援ガイドライン、こども家庭庁の「個別支援計画の記載のポイント」を根拠に、どこまでAIに任せてよく、どこからは人がやらなければならないのかの線引きを整理します。

まず前提:制度は「AI禁止」とは言っていない

指定基準にも報酬告示にも、計画作成における情報機器の使用を禁じる規定はありません。むしろ制度は、業務の効率化そのものには前向きです。たとえば第58条第6項は、計画作成に係る会議について次のように定めています。

サービス管理責任者は、療養介護計画の作成に係る会議(利用者及び当該利用者に対する指定療養介護の提供に当たる担当者等を招集して行う会議をいい、テレビ電話装置等を活用して行うことができるものとする。)を開催し

会議はオンラインでよい、と明記されているわけです。介護分野に目を向ければ、国の補助事業(介護テクノロジー導入支援事業)の対象経費に「AIを活用したケアプラン原案の作成支援ソフト」が明示的に挙げられています。国はAIによる原案作成支援を、補助金を出す対象として認識しています。

つまり論点は「使ってよいか」ではなく、「どの工程なら使ってよいか」です。

AIに任せられない工程は3つある

第58条を工程に分解すると、AIに代替できない部分がはっきりします。

工程条文上の要件AIに任せられるか
アセスメント利用者に面接して行う(第4項)。面接の趣旨を説明し理解を得る不可(面接は人が行う)
意思決定支援意思決定が困難な利用者の意思及び選好並びに判断能力等を丁寧に把握(第3項)不可
原案の作成意向・方針・課題・目標・達成時期・留意事項等を記載(第5項)(下書きとして)
担当者会議招集して開催。テレビ電話装置等の活用可(第6項)不可(開催は必要。ただしオンライン可)
説明と同意利用者または家族に説明し、文書により同意を得る(第7項)不可
交付利用者および指定特定相談支援事業者等に交付(第8項)事務作業として自動化は可
モニタリング定期的に面接し、定期的に結果を記録(第10項)面接は不可/記録の整形は可

AIが担えるのは、原則として「集めた材料を文章の形にする」工程だけです。材料を集める工程(面接・意思決定支援)と、合意を形成する工程(説明・同意)は、人が行うことが条文上の要件になっています。

言い換えると、AIは「書く時間」は短くできても、「会う時間」は短くできません。 導入を検討するときは、いま計画作成にかかっている時間のうち、どれだけが「書く時間」なのかを先に測っておくと、期待値を誤りません。

落とし穴1:AIは「全員同じ計画」を作りやすい

制度側が最も警戒しているのが、ここです。こども家庭庁の「個別支援計画の記載のポイント」(令和6年5月17日事務連絡・別紙1)は、こう書いています。

単に5領域に対応する課題や支援への当てはめを行うだけのアセスメント・計画作成にならないよう留意すること

さらに、次の2つは「想定されない」と明記されています。

  • 支援目標や支援内容が、それぞれのこどもについて同一のものとなること
  • 支援目標や支援内容の記載が、長期にわたり同一であること

生成AIは、似た入力からは似た出力を返します。テンプレート的なプロンプトで20人分を一気に作れば、表現は流暢なのに中身がほぼ同じ計画が20通できあがるというのは、実際に起こります。紙のテンプレートを使い回すより、むしろ気づきにくいのが厄介なところです。

対策は単純です。作成後に、全員分の支援目標を1列に並べて眺める。 似た文言が並んでいたら、アセスメントの材料が足りていないサインです。この確認は機械的にできるので、運用に組み込んでしまうのが確実です。

落とし穴2:個人情報をそのまま外部サービスに入れてしまう

もうひとつの現実的なリスクです。利用者の氏名・生年月日・障害の状態・家族構成・医療情報は、いずれも個人情報であり、多くは要配慮個人情報にあたります。

一般向けの生成AIサービスに入力すると、その内容が事業者側でどう扱われるか(学習に使われるか、どこに保存されるか、誰が閲覧しうるか)は、利用しているプランと規約によって変わります。「使ってよいAI」と「使ってはいけないAI」を法人として決めておく必要があります。

実務上の線引きとして、私たちがお勧めしているのは次の3点です。

  1. 法人として利用するサービスを限定する。 入力内容が学習に使われない設定・契約になっているものに限る。個人が私物の端末で任意のサービスを使う状態を放置しない
  2. 入力するときは識別情報を落とす。 氏名は「Aさん」、生年月日は「20代前半」など、個人が特定されない粒度にする。障害名や医療情報を入れる必要が本当にあるかを都度考える
  3. 決めたことを文書にして周知する。 口頭ルールは残りません。運営指導や監査で「どう管理しているか」を聞かれたときに示せる形にしておく

なお、介護分野の補助事業では、補助要件としてIPAの「SECURITY ACTION」(★一つ星または★★二つ星)の宣言が求められています。国が事業所に求めるセキュリティ対策の水準感として、参考になります。

落とし穴3:文章がうまいと、確認が甘くなる

これは制度の話ではなく、現場で実際に起きることです。

生成AIの出力は、読みやすく、それらしく、断定的です。手書きの荒い下書きなら「ここは事実確認しよう」と引っかかるところが、整った文章になっていると、そのまま通ってしまいます。事実と違う記述や、アセスメントで確認していない推測が、確信を持った書きぶりで混ざることがあります。

対策としては、AIの下書きは「完成品」ではなく「たたき台」として扱う運用を明示することです。具体的には次のような形です。

  • AIが生成した下書きは、必ず別の欄・別の色で保持し、サービス管理責任者が確認して確定版に書き換える
  • 「アセスメントで確認していない内容が入っていないか」を確認項目に入れる
  • 誰がいつ確認したかを記録に残す

計画の作成責任は、あくまでサービス管理責任者(児童発達支援管理責任者)にあります。 第58条第1項は「指定療養介護事業所の管理者は、サービス管理責任者に個別支援計画の作成に関する業務を担当させるものとする」と定めており、AIはその責任を肩代わりしません。

では、どこから手をつけると効果が出るか

「AIで計画を書く」から入ると、たいてい期待外れになります。前述のとおり、時間がかかっているのは「書く時間」だけではないからです。

私たちがご支援に入るときにお勧めしている順番は、次のとおりです。

ステップ1:材料が集まる形に日々の記録を変える

計画作成に時間がかかる最大の理由は、書けないことではなく、半年分の記録を読み返して材料を探すところから始まることです。記録の入口に、支援目標との紐づけ(どの目標に関する場面か)を1つ持たせておくだけで、モニタリング時に材料が自動的に集まります。ここを直さずにAIを入れても、AIに渡す材料を人が探す作業が残ります。

ステップ2:定型部分を自動化する

利用者の基本情報、前回の目標、期限、担当者名——このあたりは、そもそもAIでなくても自動で埋まります。転記をなくすだけで、体感の負担はかなり下がります。

ステップ3:文章の下書きにAIを使う

ここまで来て初めて、AIの効果が出ます。集まった材料を渡して、支援内容の文案を出させる。人は「材料の解釈が正しいか」の確認に集中できます。

順番を逆にすると、「AIは入れたが、結局これまでと同じくらい時間がかかる」という結果になりがちです。

計画そのものの制度要件については、個別支援計画のモニタリング|頻度・記録・未作成減算を条文から整理と、児童分野の個別支援計画の5領域とは|記載の必須ルールと支援プログラムの関係をあわせてご覧ください。

まとめ

  • 個別支援計画の作成にAIを使うことを禁じる規定はない。国も介護分野の補助対象に「AIを活用したケアプラン原案の作成支援ソフト」を挙げている
  • ただし、面接によるアセスメント・意思決定支援・文書による同意は条文上の要件で、AIには代替できない。AIは「書く時間」は短くできるが「会う時間」は短くできない
  • 通知は「当てはめだけの計画」「全員同一・長期にわたり同一の記載」を明確に牽制している。AIは似た出力を返しやすいので、全員分の目標を並べて確認する運用を入れる
  • 個人情報・要配慮個人情報の扱いを法人として決める。使うサービスを限定し、識別情報を落として入力し、ルールを文書化する
  • 出力が流暢なぶん確認が甘くなる。下書きはたたき台として扱い、サビ管が確認した記録を残す。作成責任はサービス管理責任者にある
  • 効果を出す順番は、①記録を材料が集まる形にする → ②定型部分の転記をなくす → ③文章の下書きにAIを使う

参考(一次情報)

※生成AIサービスの入力データの取扱いは、事業者・プラン・契約によって異なります。導入前に必ず最新の利用規約とデータ処理条件をご確認ください。


AIの前に、記録の形から見直したい法人様へ

パレットテクノロジーズは、社会福祉法人様のデジタル化を「現地現物」で伴走支援しています。ITに詳しい職員がいらっしゃらなくても大丈夫です。まずは、いま何にどれだけ時間がかかっているかを一緒に見るところから始めます。

社会福祉専門IT|社会福祉法人様向けのDX伴走支援

ご相談・お問い合わせはこちら

関連記事

お問い合わせ