风君子博客

  • 首页
  • 业界
  • 前端
  • 运维
  • 建站
  • 软件
  • 生活
  • 后端
  • 创投
  • 运营
  • 程序人生
    • 影视
    • 游戏
    • 句子
    • bootstrap4教程
    • 资源
    • 日期计算器
  • 其他
    • 说说
    • 关于本站
  1. 首页
  2. 业界
  3. 正文

当我们使用“下意识”时,人类与AI无异

2019年4月2日 342点热度 0人点赞 0条评论

当我们使用“下意识”时,人类与AI无异-风君子博客

图片来源@视觉中国

  文|脑极体

  在今天这个人人都有可能被愚弄的日子,不如我们来换换戏耍的对象,看看机器有没有可能被愚弄欺骗呢?

  在人工智能五十年的研发过程中,我们一直在不断尝试着让机器理解人对于世界的认知方式。不管是一直没有实现较大突破的类脑计算,还是模仿人类感知外界机制的人工神经网络,本质上都是对人类行为方式的多种模仿。

  当然我们也知道,这些模仿虽然在应用上取得突破,但本质上来看与人类的认知方式还是大相径庭的。

  就拿视觉来说,人类对于万事万物的认知来自于综合的感知。以前一阵社交媒体上疯传的《神奇宝贝》大电影来说,人们见到 3D 版皮卡丘非常惊讶——皮卡丘竟然是有毛的?

  其实这就体现了人类非常有趣的一点,建立在综合知识基础之上,人类的五感是相通的,因此可以从有限的信息里进行关联挖掘,对陌生的事物建立起认知。

  当我们惊讶皮卡丘身上茸毛时,我们立刻联想起了那种毛茸茸的手感,认为它像一只大老鼠毫不可爱。

  被随意愚弄的机器思维

  相比之下机器视觉的认知方式就相对孤立,建立分类器后组织层层的神经网络,对图片进行分层处理,分别去辨认图片中是不是一架桥,是不是一只猴子,是不是一棵大树。最后得出的结论是,这张图片 97% 的几率是一架桥,2% 的几率是一只猴子,1% 的几率是一棵大树。

  对于人类来说,我们可能把猴子看成猩猩,原因是我们自己脑海中的底层知识不足,在认知中分不清猩猩和猴子的概念。但绝不会把桥、猴子、大树这些风马牛不相及的东西混淆一谈。

  但对于机器视觉就不一样了,在机器的“眼中”,一切图像都是像素点的排列组合。对于我们来说,猴子和大树的区别是哺乳动物和区别。可对于机器来说,猴子和大树之间只有一个数字分割线而已。

当我们使用“下意识”时,人类与AI无异-风君子博客

  这就导致了机器视觉可以被“针对性”的愚弄,让图像识别输出完全错误的结果,这就是我们常说的对抗生成样本。

  例如将一张图片的像素点进行轻微的移动,在人眼中两张图片没有任何区别,可在机器识别逻辑下,却可能让机器把猴子认成大树。

  又比如我们曾经介绍过的“迷幻贴纸”——将某一种物体的分类特征高度浓缩成一个很小图案,“粘贴”在其他图片上。图像识别对于结果的输出,是基于几项结果比率的高低。在贴上贴纸之前,图像识别可能明确的分析出图片有 98% 几率的是一只猴子。但粘贴上高度浓缩特征的贴纸之后,就能立刻改变图像识别的结果。

  让人类理解机器思维,或许比想象中更容易

  如此看来,虽然机器一直在尝试模仿人类的思维方式,但最终结果还是我们与机器之间彼此无法理解。

  那么如果换个角度,让人类去学习机器的思维方式呢?

  近期约翰霍普金斯大学就做了这样一项实验。

  为了弄明白为什么机器能看到人类“看不到”的变化,约翰霍普金斯大学推出了一系列实验,让人类志愿者在图片中找到“机器犯的错误”。

  例如给志愿者一张噪点图或看似无意义的花纹,让人类志愿者从中识别辨认图片更像哪一种物体,并将 AI 给出的结果混淆其中。又比如给人类几个斑驳的数字图案,让人类志愿者选择 AI 可能将图案误认成了什么错误的数字。

当我们使用“下意识”时,人类与AI无异-风君子博客

  令人震惊的是,在大部分实验中,人类志愿者都凭借着直觉很快辨认出了 AI 的思维模式。以上图为例,有 81% 的人类志愿者都准确的发觉了机器会犯下的错误。在一共 48 个实验 1700 位志愿者中,有人们在 75% 的时间里都选择和机器一样的答案,而只有2% 的人从来没有选择过和机器一样的答案。

  这个惊人的实验结果告诉我们,即使抛开人类基础的认知逻辑,应用下意识的第一反应,也能够和机器得出相同的结果。看来神经网络黑箱中对于人类经验提炼的深度,或许远超我们想象。

  对抗对抗性图像:当人类开始理解机器

  这个实验的意义,当然不是为了告诉大家其实我们都是机器人,而是教会了我们如何应对机器视觉可能犯下的错误。

  在机器视觉认知模式的固有弊端下,很可能会形成很多可供钻空子的漏洞。例如当自动驾驶识别公路上的交通标志时,一个小小贴纸就可能让视觉系统产生错觉,把交通标识识别成突然出现的行人来个急刹车。

  为了解决这种可能出现的情况,通过理解机器思维并进行逆向拆解或许是个不错的方法。

  从实验中我们可以看出,即使是毫无逻辑的图案和纹理,人类也可以通过联想能力对这些图片进行更高级的认知和处理。实验中人类和机器进入了同样的情景,面对几个分类选项做选择题。而这种分类选择或许就是让机器陷入错误的关键。

当我们使用“下意识”时,人类与AI无异-风君子博客

  另外一点则是,人类可以很清楚的识别出对抗性图像。例如故意斑驳让人难以辨认数字图案,以及特征十分明显的花哨贴纸。那么说明这些对抗性的图案也拥有自己的“对抗性特征”。

  虽然面对这种情况,最理想的方式是放弃卷积神经网络,应用认知计算真正让人工智能建立在一个更完整的世界观上进行识别。但在认知计算获得突破之前,我们或许可以寻找一些替代性的解决方案。

  例如我们可以在一些安防、自动驾驶等等关键场合之中,特意生成对抗性样本让人类进行标注,在汽车、行人这些常规分类中多出一个“对抗样本”分类,让卷积神经网络可以识别出来这些捣乱的图案。

  对于那种动几个像素点就可以改变机器认知的情况,很有可能出现在数据流通途中的压缩产生的失误,我们可以寻找使得机器认知结果改变的压缩规律,反向从源头组织失误的发生。

  在愚人节这个日子里,发现“人类与机器有着十分相近的思维模式”这一新闻,听起来似乎像个笑话。但或许我们引以为傲的“人类意识”,根本并没有那么复杂,最终会与机器思维以一种出乎意料的方式相遇。

  但在相遇之前,我们还是应该用人类思维与机器人思维之间的相似性,来解决现实生活中的问题。

标签: AI
最后更新:2019年4月2日

风君子

独自遨游何稽首 揭天掀地慰生平

点赞
< 上一篇
下一篇 >

猜你喜欢

  • 让 AI 搞创作:谷歌夺回“画语权”,机器想象力达到全新高度

  • 英国认定美国人脸识别公司 Clearview AI 侵犯隐私:罚款 750 万英镑,删除当地居民信息

  • 英国认定人脸识别公司Clearview AI侵犯隐私:罚款750万英镑,删除英国居民信息

  • 最新研究:AI 一秒内干掉网络攻击,0.3 秒清除一个恶意软件

  • 杭州人工智能计算中心正式上线,一期建设规模 40P FLOPS 算力

  • 只需两张照片就能 2D 变 3D,华人学者开发出新 AI 应用

  • AI 技术妙用,清华搞了个神器专治词穷

  • 谷歌2022年开发者大会:硬件和AI唱主角

  • 谷歌 AI 的芯片设计能力超过人类?一位内部研究员发出质疑,结果“因言获罪”遭解雇

  • AI 齿科成像技术在加拿大获批,可识别三十余种齿科疾病

  • AI 律师,在线诈骗

  • 华为:昇思 MindSpore 蛋白质结构预测模型超越 AlphaFold2,拿下全球竞赛第一

文章评论

取消回复

风君子

独自遨游何稽首 揭天掀地慰生平

最新 热点 随机
最新 热点 随机
苹果 Apple Store 零售店扩展 Today at Apple 创想营活动,新增 7 座城市 曝骁龙 8 + 首批新机调试 6 月系统封包,年底马上发布台积电 + ARM 新架构骁龙 8 Gen 2 芯片 快手高管解读 Q1 财报:25% 月活用户创作内容,中长尾创作者内容贡献了 80% 以上播放量 【IT之家开箱】Redmi Note 11T Pro + 子夜黑图赏 数源科技:目前 5G 通信壳仅适用于华为 P50 Pro 机型,业务占比较小 苹果 Apple Watch 全新表盘“彩虹线条”上线,新款彩虹版表带开启预订,售价 379 元 999 元至 1299 元,小米 Redmi Note11 SE 5G 手机发布:搭载天玑 700 芯片,全系标配 128GB 存储 【IT之家评测室】红米 Note 11T Pro+ :首款 A + 认证 LCD 屏幕闪亮登场 AMD 公布智能访问存储技术:支持微软 DirectStorage,缩短游戏加载时间 首发价 2499 元,小米米家冰箱对开门 610L 墨羽岩发布:一级能效,20 格分区,支持 App 远程操控
抖音IP属地准确吗e地跑:全国线路覆盖率达92.5%,将升级智能扫码加油功能完成加油监控米哈游《原神》全球用户支出将突破 27 亿美元:打破最高季度纪录,中美日韩德支出最多索尼 QD-OLED 画谛系列电视 A95K 国行即将发布格力电器 2021 年营收 1878.69 亿元同比增长 11.69%施耐德电气顾俊:5G赋能,制造业智能化转型“加速”苹果将 iPad Air 2 和 iPad Mini 2 加入过时产品名单IDC:2021 年中国网络市场规模达 102.4 亿美元,路由器市场同比下滑 2.6%波导股份第一季度净利润 552.94 万元,同比增长 75.79%我们常用谁言寸草心报得三春晖歌颂母爱,它的作者是
cric是哪个保险公司 2019城镇居民医保报销比例 搭载骁龙 8cx Gen 3 的笔记本实拍曝光:装有 Win11,8MB L3 缓存 汤姆猫回复关注函:当前游戏产品与理论上的元宇宙存在很大差距 突发!因违反《反垄断法》阿里巴巴、阅文、丰巢被国家处罚 三家回应来了 为应对通胀,微软宣布给员工加薪 史无前例的强大!小米手环5实物曝光 网友:我要买10个 25年后再接受采访,Linux之父这次说了很多 内饰竟抄特斯拉!全新奔驰S级实车曝光:“iPhone 17”大屏没了 可转债强赎是什么意思
标签聚合
谷歌 科技 手机 贷款 马斯克 银行 美国 苹果 额度 秘籍 股票 借款人 小米 利息 银行卡 华为 iphone 特斯拉 芯片 快科技 汽车 IT资讯 腾讯 支付宝 京东 信用卡 微软 业界 利率 三星
Tags
酒 胡萝卜 食物 私房菜 有什么好处 水果 能吃 鸡蛋 身体 会胖吗 副作用 吃什么 相克 好处 饮食 作用 土豆食谱 方法 牛肉 豆腐 糖 热量 茄子 好吃 营养 皮肤过敏 区别 菜谱 牛肉食谱 功效 怎么做 营养价值 豆腐食谱 维生素 土豆 热菜 食用方法 常吃 健康 排骨 汤类 高血压 牛奶 糖尿病人 做法 吃法 下饭菜 海鲜 一起吃 排骨食谱
最近评论
九九 发布于 3 周前(05月06日) 也可能是 IP2LOCATION 数据
风君子 发布于 5 个月前(12月20日) 直播这么赚钱的吗?
wanif 发布于 5 个月前(12月18日) 采用你提供的pe制作u盘后无法识别mac硬盘,如何解决?
robotunl 发布于 5 个月前(12月18日) 可以用了,感谢
robotunl 发布于 5 个月前(12月17日) DISM++链接下不了了啊,能再发一个么。 还有怎么制作和博主一样的PE u盘。
tiantian 发布于 10 个月前(08月08日) 谢谢分享!
欣姐 发布于 1 年前(02月06日) 很有道理啊
我在東莞上班睡覺工資一千五六 发布于 1 年前(12月16日) 东莞台商都开始搬迁河源,梅州包括赣州一些地方要么就是内地城市,因为电子厂需要大量人力所以基本上都是中...
我在東莞上班睡覺工資一千五六 发布于 1 年前(12月16日) 这个怎么有意思了,是不是太真实了 :smile: :smile:
东莞石碣维信五金制品有限公司睡觉一千五六 发布于 1 年前(12月15日) 台商大陆模式搞习惯了去了印度未必成功 :idea:

COPYRIGHT © 2021 风君子博客. ALL RIGHTS RESERVED.

豫ICP备14018241号