Rain科技5月3日消息，据报道，科技巨头谷歌近日宣布，将于下周推出专为13岁以下儿童设计的Gemini人工智能聊天机器人。这款产品将通过家长管理的谷歌账户，为儿童提供安全、有趣的互动体验。此举标志着科技公司正加速布局年轻用户市场，也引发了关于儿童数字保护的诸多讨论。
据了解，Gemini聊天机器人将具备作业辅导、创意写作等功能，旨在为儿童的学习和娱乐带来一种全新的互动体验。这种互动，相较于传统的学习方式，可能会更具吸引力，但也对教育的引导方式提出了新的挑战。
谷歌发言人表示，该产品设置了多重保护措施，承诺不会使用儿童数据进行AI训练，并建议家长指导孩子正确使用，包括核实AI提供的信息、不分享个人隐私、理解AI的局限性等。这些措施体现了谷歌在保护儿童隐私方面的努力，然而，实际效果还有待进一步观察，尤其是考虑到AI模型本身的复杂性和潜在的“幻觉”问题。
然而，这一创新也引发了广泛讨论。联合国儿童基金会等组织警告称，AI系统可能存在误导儿童、构成操纵风险等隐患。这些隐患并非空穴来风，AI算法的偏见、错误的信息输出，都可能对心智尚未成熟的儿童产生负面影响。此外，儿童过度依赖AI进行学习，可能会削弱其独立思考和解决问题的能力。
尽管谷歌强调已采取内容过滤措施，但专家指出完全杜绝不良信息接触仍具挑战性。此前Meta等公司在儿童产品开发上的挫折，也凸显了这一领域的复杂性。例如，社交媒体平台在内容审核上的困难，以及儿童用户绕过监管的现象，都表明儿童数字安全防护并非易事。Gemini能否有效过滤有害信息，避免儿童接触不适宜的内容，仍然是一个悬而未决的问题。
业内人士分析，在AI技术快速发展的当下，如何平衡创新应用与儿童保护，需要企业、家长和监管机构的共同努力。Gemini的推出或将推动行业建立更完善的儿童数字安全标准，但也需要更多的第三方监督和评估，以确保这些标准的有效实施。未来，或许需要一套更严格的认证体系，来保障儿童在使用AI产品时的安全和权益。
