Rain科技6月30日消息，据媒体报道，OpenAI首席执行官萨姆·奥特曼近日接受采访时发出了一个重要的警示：尽管ChatGPT在全球范围内取得了广泛的认可和应用，但用户对其毫无保留的信任态度，却是一个值得我们深思和警惕的现象。
奥特曼坦言，让他感到最为惊讶的是，人们居然如此轻易地就相信ChatGPT给出的答案。他指出，尽管这款人工智能聊天机器人已经被广泛应用于从教育辅导、学术研究到育儿建议等许多关键领域，但我们必须认识到，它本身并非一个百分之百可靠的信息源。奥特曼特别强调了一个关键的技术局限性：“AI会产生‘幻觉’，这意味着它有可能非常自信地提供完全错误或具有误导性的信息。”这一现象是当前生成式人工智能技术发展过程中普遍存在的挑战。
自2022年11月发布以来，ChatGPT凭借其令人印象深刻的自然语言处理能力，迅速在全球范围内掀起了一股热潮。然而，随着其应用场景的不断拓展和深入，关于其信息准确性、潜在的偏见以及可能带来的风险等问题，也日益成为公众关注的焦点和争议的焦点。这迫使我们在享受技术便利的同时，也必须保持审慎的态度。
奥特曼的这番提醒，无疑是在为所有使用者打下“预防针”。他敦促所有用户，在使用这类生成式人工智能工具时，务必保持批判性思维，对AI输出的任何内容都要进行必要的核实和验证，不能全盘接受。
在谈及产品的未来发展时，奥特曼也透露了一些令人期待的重要更新计划。其中包括即将推出的“持久记忆”功能，这将允许ChatGPT系统能够记住用户的对话历史，从而提供更加个性化和连贯的交流体验。此外，OpenAI还在考虑引入广告商业模式，以支持其长期的运营和发展。这些创新虽然有望极大地提升用户体验并增强产品的商业可持续性，但同时也不可避免地会伴随着新的隐私保护和数据安全挑战的出现，需要业界和社会共同关注和解决。
