AI 值得信任吗？先看看人类花了一百年才敢喝的那杯水

我们于近期谈到了一个问题, 即: AI 究竟值不值得去信任? 进行交谈的过程中, 我发觉真正的那个问题压根就不是 AI 值不值得信任, 而是——信任是凭借怎样的方式建立起来的。

全盘接受，才是真正的危险

你向AI询问某件事情, 它会给出相应答案, 倘若你毫无保留地接纳, 此后这个世界将会陷入极惨的境地。缘由在于, 一旦你接纳了, 那么你便舍弃了掌控权, 进而也就不具备戒心了。

这并非那抽象意义上的担心, 在自行驾驶那具备自动辅助功能的车辆之时, 显著察觉到反应速率变缓了, 往昔倘若不信任它时, 脚部会时常置于刹车之上, 时刻预备着踩压一下, 如今已然逐渐习惯了, 已然抵达设定的驶出点位, 它却未曾正常驶离之际, 自身已经无法觉知自己应当实施刹停车辆的动作了。信任其自身, 正悄无声息地盗走你的警觉性。

但是，对于不同的系统的信任程度，是慢慢的建立起来的。

有人讲, 那医生也曾经出现过开错药的情况。这是不一样的。当医生开错药时, 医生这边是需要承担责任的。而且背后存在着一个人, 有着一整套用于追责的机制在进行保障。仔细想一想, 医生这样一种职业, 将自身的性命交付于他, 由他来给出治疗配方, 要是剂量这儿出了差错就很有可能导致人失去生命。并且都别忘了, 在那般悠久漫长的历史进程当中, 不靠谱的医生以及不靠谱的偏方所引发造成的问题, 要远远超过现代当下任何一个人工智能大语言模型所引发的问题。可是我们究竟是怎样一步步地对医生产生信任的? 人类耗费了几百年光阴, 并非凭借“医生是好人”, 而是依靠执照制度, 依靠医疗事故追责机制, 依靠医院定期审查等, 一整套体系, 将这个原本极其危险的职业, 一点一点地促使其对患者而言相对安全起来。你所信任的向来不是那个人, 而是那套体系。

我们敢喝那杯水，靠的不是运气

拿个例子来说: 于餐馆之中, 我眼前这杯水里, 究竟有没有毒呢? 我敢于饮用, 乃是由于我秉持着信任, 觉得身在正常的餐馆里所喝的东西按理不会有毒。

但这份信任并非凭空得来。200年前的社会, 无法构建这种信任。在那时, 于外面根本不敢随意喝水。试想一下, 200年前在外面饮用一杯未烧开的水, 基本等同于在赌博。当时细菌是何物都未曾弄清楚, 连死都不知因何而死。自来水和灭菌根本不存在。你在外面随便喝口水, 就是实实在在地拿自己的身体进行投注。我们如今觉得理所当然安全的事物, 过去曾是那般不安全。

其一, 为什么当下敢这样做了呢? 其二, 原因在于我们构建起了司法体系, 其三, 构建起了追责体系, 其四, 关注到了食品安全方面, 其五, 门口还务必张贴员工的定期体检报告, 其六, 而且要进行公示, 其七, 像这样一整套相关事物累积起来, 才致使我在当下, 于任何一家餐馆之内, 能够端起这杯水并喝下去。

对于汽车而言是这样, 吃药同样如此, 电的情况也一样, 火也是这种状况。在历史进程中, 技术致使我们当下觉得稀松平常的诸多事情, 往昔都曾是一场冒险。故而我觉得AI也会历经一段时间, 逐步将出错的概率降低。这并非是某一件事情单独就能够达成的, 而是技术、监管, 以及整个社会认知共同取得进步所带来的结果。

如今的AI恰好缺少的便是这一整套, 所以当下它一旦出错, 那就是死了便罢了, 根本没人会为此负责, 不仅是追责体系处于缺失状态, 对于AI的监管自身也是远远不足够的, 既不存在足够强有力的外部限制, 技术自身的更新换代速度更是远远超过我们构建信任的速度, 把这两件事组合在一块儿, 才确切是现在我们不应该完全信赖AI的真实缘由。

三年后，AI 也得有一张「健康证」

然而经过三年, 待AI切实开始肩负起重要事务之时, 情形必得改变。AI的模型之上也需要具备“健康证”, 市场监督局要前去进行检查。检查AI输出的内容会不会将人置于死地。这件事必定会去做, 促使我们逐步构建起对AI更为深厚的信任。

信任并非是那种「你自行选择去相信」的情况, 而是「存在着一套体系, 它迫使着对方根本不敢辜负你」。人类耗费了两百年之久, 才将这套体系施加于餐馆以及医生身上。AI同样也无法回避这其中一步的必经流程。

给 AI 贴警告标签？没必要

针对有人所提出的建议, 也就是让 AI 去张贴一个规模巨大的警告标签, 并且要时时刻刻去提醒用户, 告知其「AI 存在可能出错的情况」, 关于这点我认为没有必要这么做。

那个标签到底贴不贴, 这可不是按照它有没有出过差错来判定的, 而是要依据它和其他信息源相比较而言靠不靠谱来决定的。朋友所给予的建议, 其出错的几率实际上并不比AI低, 特别是在他们并不具备专业资质的领域当中；父母给孩子的建议, 难道就肯定是靠谱的吗? 那么我们是不是同样需要每天都去提醒孩子: “父母是存在出错可能性的”？是不是还得教育年老的父母: “不要轻易相信自己的孩子”?

这一推下去，就变得很滑稽了。

去学会信任一杯水, 这本身算作是学习的一部分。学会去判断哪个信息源是值得信任的, 以及值得信任到何种程度, 这同样也是。更为根本的是, 信任谁, 怎样去信任, 信任到几分, 这本身就是一种需要通过学习而获得的能力, 并非天生就具备的, 也不是贴上几张警告标签就能够进行替代的。我们并非要给每一个信息源都贴上警告标签, 我们所需要的是将判断力培育起来。

总归来说, 这是一项具备系统性的工程, 它涵盖社会层面的监督, 还有技术领域的进步, 以及使用者自身的成熟。这同样是致使任何技术进行普及之时都必然需要耗费时间的缘由所在。