最近，OpenAI 首席执行官萨姆·奥尔特曼和企业家阿里安娜·赫芬顿与《大西洋月刊》的查理·沃泽尔探讨了他们利用生成式人工智能 (AI) 重塑美国医疗体系的愿景。
他们宣布共同创办了 Thrive AI Health，一家提供聊天机器人的公司，该聊天机器人能够根据个人特定的健康需求提供行为建议。然而，聊天机器人经常出错，甚至让我犹豫是否要根据它的建议给树浇水，更别提在自己的身体里放点什么了。尽管如此，该公司的支持者们承诺一个伟大的时代即将到来。这一愿景确实是诱人的，正如赫芬顿所说：“我们的医疗体系已经崩溃，数以百万计的人因此而受苦。”
但是，有些问题可能过于复杂，AI 无法处理。我们可以从另一个角度看待 Thrive AI Health：众多公司仍在努力弄清楚 AI 的真正优势。Thrive AI Health 承诺将 OpenAI 的技术引入我们生活中最私密的地方，评估健康数据并提出建议。Thrive AI Health 将改进现有的医疗聊天机器人领域，改善人们的健康状况，降低医疗保健成本，并显著减少全球慢性病的影响。
奥尔特曼和赫芬顿将该公司描述为重塑医疗体系的“关键基础设施”。他们还表示，该公司未来推出的聊天机器人可能会鼓励你“把下午喝的第三杯苏打水换成水和柠檬”。他们称该聊天机器人为“超个性化人工智能健康教练”，这也是 Thrive AI Health 宣传的核心。该机器人将根据用户的生物特征和健康数据生成“个性化的人工智能 driven Insights”，提供信息帮助用户变健康。例如，AI 教练可能会提醒一位忙碌的糖尿病患者按时服药并提供健康食谱。
这让我感到难以接受：两位富有且知名的人物要求普通人将他们最私密、最重要的健康数据交给一个唠叨的机器人吗？健康应用非常受欢迎，人们允许科技工具每天收集各种个人数据，例如睡眠、心率和性健康信息。如果该公司成功了，其市场潜力难以估量。但是，AI 使事情变得复杂，因为它为公司打开了一扇大门，可以根据隐私信息训练模型。
奥尔特曼和赫芬顿正在让全世界相信，AI 有朝一日将能够改变我们与自身身体的关系。赫芬顿表示，AI 健康教练的不同之处在于，这项技术将足够个性化，以满足个人行为改变的需求，而美国目前的医疗系统无法满足这种需求。奥尔特曼表示，他相信人们真心希望技术能让他们更健康：“我认为 AI 能够真正改变世界的案例很少。让人们更健康当然是其中之一。”
这两个答案听起来都很真诚，但每个答案都需要一定的信仰。我们需要信仰，它是推动进步的强大动力，是拓展我们视野的途径。但是，在错误的背景下，信仰是危险的，尤其是盲目信仰。一个由盲目信仰驱动的行业似乎尤其令人不安，它给了贪婪之人以巨大的杠杆，允许妄想快速赚钱的骗子伸出“第三只手”。一个以信仰为基础的行业最大的诡计是，它毫不费力地不断改变目标，抵制评价，回避批评。别有用心之人“画大饼”欺骗着不知情的人。与此同时，不成熟的愿景可能永远不会等来救赎。
