随著人工智慧技术越来越发达，不少学校和家长都会允许小朋友使用AI聊天机械人来辅助学习。不过，如果家长没有留意孩子的使用情况，孩子可能会接触到不当内容或误用系统，美国一名男童近日就因向ChatGPT寻求杀人建议而被捕。而最近OpenAI亦推出家长监护功能，家长可以更好掌握孩子的使用情况。

13岁男询问ChatGPT如何杀死朋友

最近，佛罗里达州德兰市一名13岁男生在与ChatGPT对话时询问：“如何在上课时杀死我的朋友（How to kill my friend in the middle of class）”。随后学校使用的安全系统在扫描内容后，立即发出警告，学校随即报警求助。

警察赶到学校后带了这名学生回警署接受调查，学生在审讯过程中，声称自己只是想戏弄一位同学。目前未有资料指出这位学生正面临甚么指控。

警长办公室表示，这次事件又是一起引发校园紧急状态的恶作剧，呼吁家长多与子女沟通，避免再度发生类似情况。

ChatGPT推出家长监护功能

近日有多宗报道指，部分未成年用户使用AI后出现极端想法或行为。OpenAI因此为ChatGPT新增家长监护功能，旨在更有效保护青少年，防止他们接触色情或不当内容。

家长可以透过新的家长监护功能，将自己的帐户，与13至17岁的未成年子女的帐户连结，并可以设定严格的内容限制。OpenAI表示，ChatGPT日后会自动过滤与暴力画面、性及浪漫角色扮演、病毒式挑战，以及与“极端美貌理想”有关的内容。

家长可以禁止孩子用ChatGPT生成图像，设定“停机时间”限制子女的使用时段，也可选择不让孩子的帐号参与AI模型训练，一旦孩子出现严重情绪困扰或自杀念头，系统会发出警报通知家长。

ChatGPT现正开发年龄预测系统，未来可能要求用户上传身分证，以主动限制未成年用户存取敏感内容。不过，OpenAI暂未公布具体推出时间。