二哲科技

  • 19 主题
  • 65 帖子
  • 527 积分
  • 身份:实习版主
  • 论坛新秀
  • E币:429

【话题讨论】智能机器人被赋予坏人的思想会怎么样?

2020-9-28 19:45:44 显示全部楼层
本期话题:
智能机器人被赋予坏人的思想会怎么样?

话题背景:
现在科技发展的十分迅速,智能机器人都已经进入人们的生活中,代替人们做了一些事,方便人们的生活,大多数都是好的一方面,但是任何事物都有两面性,帮助人们减少工作的同时是不是也使人懒惰;帮助人们计算的同时也会使人不去思考;代替了我们某一方面,会使我们某一方面也开始退化,这是一种负面性。
机器人大白.jpg
然后我觉得更可怕的一点时,当有不法分子把智能机器人当做一种不法工具的时候,那么被制造出来的机器人会是什么样的?这个想法不是异想天开的,只要是好的东西,那么一定会被利用,所以本期我们探讨一下“智能机器人被赋予坏人的思想会怎么样?”,当然这不是给坏人们提醒,而是一种预防!
坏机器人.jpg
图是美国的一部电影“坏机器人”的主角,如果感兴趣的童鞋可以去看一看,智能机器人会自主学习也是一件很可怕的事。

话题活动时间:即日起 - 2020/10/31
所有参与者将获得:20个 E币

最新评论

楼层直达:

我的果果超可爱

  • 41 主题
  • 146 帖子
  • 904 积分
  • 身份:版主
  • E币:758
机器人本质是按照规则的计算器
所以赋予坏人思想还是很可怕的
坚定地执行 超强的破坏力

二哲科技

  • 19 主题
  • 65 帖子
  • 527 积分
  • 身份:实习版主
  • 论坛新秀
  • E币:429
二哲科技 2020-10-2 11:06:15 显示全部楼层
我的果果超可爱 发表于 2020-9-30 09:34
机器人本质是按照规则的计算器
所以赋予坏人思想还是很可怕的
坚定地执行 超强的破坏力

对,它会强制执行某些指令,最可怕是它如果拥有自主思想的话,可能会制造出服从它的机器人,然后。。。

千棱

  • 2 主题
  • 9 帖子
  • 495 积分
  • 身份:LV2 初级技术员
  • E币:59
千棱 2020-10-7 11:53:04 显示全部楼层
最初的机器人是按照人为设定的规则设计的,全世界也都默认遵守着机器人三定律去设计各式的机器人,也就保证了机器人和人类的和谐共处。
不过也可能存在极个别的机器人会被人为设计为遵循坏人思想,破坏规则。
同时随着人工智能与机器人技术的发展,越来越多的国内外研发团队研发出的机器人控制思想不明确,尤其是以现代智能算法理论为基础的机器人,其工作原理不明,设计输出不受控,存在多种可能性。
尽管目前专家和技术人员也在尝试设计机器人对抗样本来为未来和机器人的可能对决提供一种方案,不过人类又怎么确保是自己骗了机器人而不是机器人骗了人类呢?也许AI真的在人类设计的那些噪点中发现了某种真正的本质的规律,而我们只是肉眼凡胎不识真面目,这些都是不可预测的,也充满着未知与不确定性,人类面对未知的东西总会本能的恐惧。
单纯的设计法律法规监管已经无法完全管理机器人的行为了,毕竟一些算法的输出人类已经无法预测了,所以还是需要科学技术发展的同时穿插入安全设计技术,从技术源头确保AI机器人不会发展出自主不受控思维,不过这谁又能说的了呢,也许技术发展到一定程度也就不是人类能控制的了,到时候机器人自主思维,自主创造工具和使用工具,恐怕也就是人类的末日吧。
广告

乖乖兔爸爸

  • 0 主题
  • 381 帖子
  • 1457 积分
  • 身份:LV4 高级技术员
  • E币:958
乖乖兔爸爸 2020-10-9 09:09:10 显示全部楼层
自主不自主的什么的,并不可怕。

可怕的是不受人类的控制。

就算是时刻在人类的监督下,也有可能不受人类的控制。
何况放羊式自动自发学习

二哲科技

  • 19 主题
  • 65 帖子
  • 527 积分
  • 身份:实习版主
  • 论坛新秀
  • E币:429
二哲科技 2020-10-9 14:08:30 显示全部楼层
千棱 发表于 2020-10-7 11:53
最初的机器人是按照人为设定的规则设计的,全世界也都默认遵守着机器人三定律去设计各式的机器人,也就保证 ...

大佬说的非常的好!确实,如果让AI随意发展的话,那么AI的以后我们无法预知且无法控制!

二哲科技

  • 19 主题
  • 65 帖子
  • 527 积分
  • 身份:实习版主
  • 论坛新秀
  • E币:429
二哲科技 2020-10-9 14:09:26 显示全部楼层
乖乖兔爸爸 发表于 2020-10-9 09:09
自主不自主的什么的,并不可怕。

可怕的是不受人类的控制。

以后让AI自学这肯定会有,但是会学成什么样人类真的无法预知。

zendy_731593397

  • 0 主题
  • 12 帖子
  • 624 积分
  • 身份:LV3 中级技术员
  • E币:670
zendy_731593397 2020-10-14 09:34:37 显示全部楼层
Ai是未来,AI是趋势,如何正确引导和使用,才是重中之重
广告

流浪小子

  • 20 主题
  • 59 帖子
  • 641 积分
  • 身份:实习版主
  • E币:475

梨子12333

  • 1 主题
  • 9 帖子
  • 400 积分
  • 身份:LV2 初级技术员
  • E币:417
梨子12333 2020-10-14 12:08:36 显示全部楼层
这就像菜刀,可以切菜,也可以剁人,取决于用的那个人,但如果机器人由Ai来控制那后果就不堪设想了,在电影,《机械公敌,机械姬,机器人总动员》中也给出了这种设想。都知道关键在于约束机器人,Ai的规则,但这就像系统和黑客的关系。我还曾看过一个国外恶搞视频,讲的是有人用无人机➕ 手枪进行抢劫。所以我觉得智能工业机器人可以,但消费级弊大于利,也会让人们更懒,

Awen

  • 99 主题
  • 253 帖子
  • 989 积分
  • 身份:版主
  • 论坛新秀
  • E币:838
Awen 2020-10-14 13:51:13 显示全部楼层
如果让机器人有坏人的思想,应该会是一场灾难,人还存在感情,机器人就不会,所以AI技术现在发展很快,但是针对取代人类,还有有很多是需要被限制住的

简单qqq

  • 18 主题
  • 86 帖子
  • 12251 积分
  • 身份:实习版主
  • 论坛新秀
  • E币:3209
简单qqq 2020-10-14 14:12:06 显示全部楼层
威尔史密斯的"我,机器人"就已经出现了这一幕。我觉得有两点:1. 以引导为主;2. 机器人的权限绝对不能高于人类的权限。人机共存的时代,需要的是更严格的法则和社会秩序
广告

二哲科技

  • 19 主题
  • 65 帖子
  • 527 积分
  • 身份:实习版主
  • 论坛新秀
  • E币:429
二哲科技 2020-10-14 22:33:08 显示全部楼层
zendy_731593397 发表于 2020-10-14 09:34
Ai是未来,AI是趋势,如何正确引导和使用,才是重中之重

就怕出现高智商的坏人

waterss

  • 0 主题
  • 79 帖子
  • 1269 积分
  • 身份:LV4 高级技术员
  • 论坛新秀
  • E币:190
所有人工智能都应该有个自爆程序,而且是多种方式的,以防万一,或者以人工管理充电方式进行管控

jinsheng

  • 45 主题
  • 100 帖子
  • 1061 积分
  • 身份:版主
  • E币:832
现在的机器人一部分就是为了战争。但当机器能自升级就会很可怕,什么是好什么是坏谁有能说的明白。
12下一页
我要评论
24
44
广告
关闭 热点推荐上一条 /7 下一条
快速回复 返回列表