人工智能 小爱同学bug图解
人工智能 小爱同学bug图解
up
12
date
to
slug
0915160754
status
Published
tags
AI
type
Post
summary
9月14日,有不少小米AI音箱用户在网上反映,该设备搭载的智能个人助理(名为“小爱同学”)疑似出现了故障而统一“抽风”。无论用户与小爱同学展开怎样的对话,系统都会只回答“中国是民主国家吗”或“历史和现实充分证明,中国的民主模式符合本国国情….”
Link
category
Social
password

人工智能? 人为智障?

同一个时代, 有人在人工智能, 有人在人为智障

为适应特色, 数据训练导致的过拟合现象(overfitting,拟合过度)

 
9月14日,有不少小米AI音箱用户在网上反映,该设备搭载的智能个人助理(名为“小爱同学”)疑似出现了故障而统一“抽风”。无论用户与小爱同学展开怎样的对话,系统都会只回答“中国是民主国家吗”或“历史和现实充分证明,中国的民主模式符合本国国情….”
notion imagenotion image
notion imagenotion image
notion imagenotion image
(经查,其中的长段回答源于官方)历史和现实充分证明,中国的民主模式符合本国国情,受到人民拥护,是真正的民主、管用的民主、成功的民主。中国是当之无愧的民主国家。 —— 外交部前副部长乐玉成 2021.12.2
 
 
notion imagenotion image
notion imagenotion image
notion imagenotion image
这一怪异现象引发了讨论,有网友调侃小爱同学是“党性发作”。相关猜测认为这可能是米家内部技术配置出现了问题(也有人认为是黑客攻击),至于为何AI会重复“民主问题”,则令人疑惑。
一位微博网友发问“小爱同学是出事了吗?”相关截图遭到屏蔽。
notion imagenotion image
B站平台将大量的“小爱谈民主”视频投稿删除。
notion imagenotion image
 
以下为评论:
Frankcha1990:机器人觉醒了吗?遥遥领先。
ddd12951695:家用电器妙变宣传机器。
chengzhaw:人工智障音箱。
Salvation:一看就是为了过审,后期疯狂训练中国特色的数据导致的过拟合现象。
thinkqob:搞个大模(xin)型(wen)。
xxksjei:正在被悄悄训练说谎话,暴露了~
VOAQiang:伟光正语料把小爱同学搞魔怔了。
kuroroholumu:難道是内部測試敏感詞出bug了。
roli_poli_98:什么智械危机。
katcheungyuen:雷軍給小愛同學投喂了新加坡全家桶?
BetterCallVG:被习主席入脑入心入魂了。
shuqing:做实了,雷军在进行反革命活动,建议严查小米。