イリノイ州知事JBプリツカーは先日、精神資源保健規制法（HB1806）に正式に署名した。禁止この州は、米国で初めてメンタルヘルス分野における人工知能（AI）の使用を禁止した州です。この動きは、新興技術のリスクに対する地方自治体の懸念を反映しているだけでなく、トランプ政権が最近提案したメンタルヘルスサービスにおけるAIの使用禁止とも合致している可能性があります。州レベルの人工知能規制の10年間の禁止衝突が起きる。
この新法は、イリノイ州において心理カウンセリングサービスを提供できるのは資格を有する専門家のみと規定し、AIチャットボットやツールが独立したセラピストとして活動することを禁止しています。さらに、資格を有するセラピストは、AIを利用して「治療上の決定」を行ったり、「治療上のコミュニケーション」を行ったりすることはできず、メンタルヘルスにおけるAIの利用は、スケジュール管理、請求、その他の事務作業といった補助的なサポートに限定されます。
イリノイ州選出のボブ・モーガン下院議員は、メディアのインタビューで、危機的状況にある人々が人工知能を有能なセラピストだと誤解し、その結果、会話の中で危険な、あるいは致命的な行動を示唆された事例があると述べた。彼は、この新法制定の目的は、同様の悲劇が再び起こらないようにすることだと強調した。
執行を強化するため、新法では違反1件につき最高XNUMX万ドルの罰金が課せられ、企業と個人の両方に適用されます。イリノイ州金融・職業規制局のマリオ・トレト・ジュニア局長は、この法律は州民のメンタルヘルスを守り、患者の利益を最優先に考える訓練を受けた専門家による心理サービスの提供を保証するという州のコミットメントを示すものだと述べました。
「精神資源保健・規制法案」は上下両院で全会一致で支持され、心理療法への人工知能の導入に対する超党派の強い警戒感を反映している。しかしながら、この動きは法レベルと政策レベルの両方で懸念を引き起こしている。トランプ政権が最近発表したAI政策の青写真は、全国的な一貫性とイノベーションの自由を確保するため、今後10年間、州レベルのAI規制を全面的に禁止することを求めている。イリノイ州の今回の動きは、連邦政府による政策執行の初の試金石となる可能性がある。
テクノロジー業界では、OpenAIが最近、心理的または感情的な苦痛を抱えているユーザーを特定するモデルの能力を強化し、異常に長い会話中にユーザーに休憩を取るよう積極的に促すと発表しました。しかしながら、イリノイ州の法案は、生命の安全と職業倫理に関わる分野において、地方自治体が業界の自主規制よりも厳格な保護措置を講じる用意があることを示しています。
生成型人工知能とチャットボットが急速にさまざまな業界に浸透するにつれ、イリノイ州の禁止は他の州と連邦政府の間で新たな規制紛争を引き起こす可能性があり、医療やメンタルヘルス分野における人工知能の発展の道筋にも影響を与える可能性があります。
