ChatGPTは非常に多くの人が使うため、危険な質問の扱い方の小さな変更が巨大な利用者に及びます。だからこそ、OpenAIの最新の安全強化は注意して読む価値があります。同社によると、ChatGPTは過去の大量襲撃について詳細を減らし、最近のチャットに警告の兆しが見えればより慎重になり、暴力に固執する会話を終わらせ、未成年と判断した相手には実用的な武器情報を制限します。
具体的な変更は明確です。ChatGPTは、過去の大量襲撃とその実行者について、たとえその詳細がほかのオンライン上で手に入るとしても、詳しさを減らすよう指示されます。襲撃の再現を助けず、実行者の悪名を広げないという明示された目的のためです。これらの制限は利用者の年齢を問わず適用されます。別に、最近のチャットが暴力の可能性の兆しを示せば、モデルはより慎重に応じ、会話が、ある人が他者に深刻な危害を加えることに固執していると示せば、ChatGPTはチャットを自動で終わらせられます。繰り返せば、アカウントが一時停止されることもあります。OpenAIは、2026年第3四半期に200件超を法執行機関に照会したとしています。
未成年に対しては制限がさらに進みます。OpenAIはすでに、誰かが暴力を計画したり武器を見つけたりするのを助けることを禁じており、今やそれを、暴力の意図の兆しがなくても悪用されうる武器や防犯システムの実用情報へと広げます。未成年はなお、支援を求めたり事態を鎮めたりするためにChatGPTを使えます。最も有 用な約束は半年ごとのCommunity Safety Reportで、最初のものは2026年後半を対象に2027年初めに予定されています。これこそOpenAIに守らせるべき部分です。文脈のない照会件数は、それだけでは判断しにくいからです。
未成年向けの規則の背後にある仕組みこそ、折り合いが宿る場所です。この保護は、既知の18歳未満のアカウントだけでなく、OpenAIが行動の信号から18歳未満と予測する利用者にも適用され、予測は正確ではありません。一部の大人は誤って未成年向けの体験に置かれ、戻る道はOpenAIの年齢確認の提携先Personaを通じた本人確認です。それは誤りを正しますが、利用者に身元データを渡すよう求めるもので、誰もが受け入れるわけではないため、本人確認のないアカウントの手軽さと、より厳しい未成年の制限とが、今や緊張関係にあります。
率直な未解決の問いは有効性です。OpenAIは、検知がどれほどの頻度で本物の脅威を捕らえるのか、警告のうちどれだけが誤りだったのかについて数字を出していないため、照会件数は分母のない数字です。大量襲撃の詳細や未成年向けの武器情報に関するより厳しい規則は妥当な一歩ですが、それが被害を測れる形で減らすのか、正当な質問をどれほどの頻度で誤って制限するのかは、約束された安全報告が方針の裏づけとなる数字を示し始めて初めて分かります。