论坛
机器人/工业电子
厂商专区
大联大技术论坛
英飞凌技术社区
意法半导体社区
开步电子社区
Qualcomm物联网技术论坛
ZigBee & IAR 小组
硬件设计
电子基础
电路图
模拟技术
电源技术
测试测量技术
EDA与IC设计
硬件开发经验
制造与封装
拆解基地
评测
嵌入式/开源硬件
可编程器件
嵌入式与MCU
开源硬件与DIY
学生创客专区
通信/手机/物联网
通信与网络
消费电子与智能设备
汽车电子与车联网
物联网与智能家居
机器人/工业电子
电机与控制
工业电子与自动化
机器人技术与AI
无人机专区
供应链专区
采购与销售
分销与供应链
资本与市场
方案/元器件供求
职场与创业
面包板社区活动
管理沙龙
工程师职场
新手反馈与建议
路边社娱乐
机器人技术与AI
关于人工智能的五个安全规则
3
0
发帖
提问
楼主
关于人工智能的五个安全规则
用户1777324
403
主题
419
帖子
206
积分
身份:
LV1 技术小白
E币:
180
发消息
2983
0
发表于 2016-6-23 03:15:47
显示全部楼层
不久前谷歌与OpenAI公司、斯坦福大学和伯克利大学联合发表一篇题为《AI安全的具体问题》的论文,猜想研究人员在研发和使用AI过程中可能遇到的具体问题。 谷歌研究(Google Research)的Chris Olah)周二则在一篇博文中阐述了开发出更智能、更安全人工智能的五大规则。
Olah在博文中指出:“这些都是具有前瞻性的、长期的研究问题——这些现在看起来可能是小问题,但对未来系统则至关重要。”
Olah提出的五个规则是:
避免负面效应:AI在完成一组任务时不应该被周围环境打扰。
避免奖励黑客: AI应该妥当地完成任务,而不是借助一些迂回的方法。
可扩展的监督: AI不需要接收不断的反馈或有效的输入。
安全探索:AI在学习时不应伤害自身或环境。
鲁棒性到分布式的转变: AI应该能够识别出全新的环境,并在新环境中有效地完成任务。
继续阅读本篇相关更多标签
写原创有奖励!2025面包板原创奖励正在进行中
举报
3
您需要登录后才可以评论
登录
立即注册
热门资料
300个超多动图、小视频,帮你理清电子电 ...
300个超多动图、小视频,帮你理清电子电 ...
300个超多动图、小视频,帮你理清电子电 ...
电子电路分析考试题目+学习思维导图 ...
电动车无刷控制器成熟量产方案(含原理图 ...
热门活动
汽车ADAS半导体技术突破
解密汽车ADAS 半导体图谱
从ADAS到全自动驾驶演进
自动驾驶的半导体基石
深度剖析:测试电源与光伏储能背后的半导体奥秘
技术文库
变压器磁芯的温度特性
【PCB_121】PCB设计中的EMC
电源-信号协同仿真案例
上电导通型单键开关机电路分析 ...
【考题】三种组态基本放大电路 ...
全部回复 0
暂无评论,快来抢沙发吧
开启智能 “芯” 未来:2025 MCU及嵌入式技术论坛火热来袭
ADI四大精密测量方案解析:从阻抗分析到高压SMU实战应用
机器人技术与AI
版主:
用户3882052
讨论机器人设计与技术实现,包括电子、机械和电气自动化技术以及软件技术
展开更多
帖子
1363
回复
4940
置顶
免费报名开启智能 “芯” 未来:2025 MCU及嵌入式技术论坛火热来袭!!…
置顶
AIoT 从业者必参的年度盛会免费报名已开启!涵盖前沿技术/人脉资源/市场洞见…
置顶
精华1
【2025下载活动第1季】献宝“硬货”瓜分1000元奖金
置顶
2025全球电子行业领域具影响力线下活动门票抢先一键预定
精华1
算力革命:Cadence、英飞凌等巨头谈存储迭代、封装升级、...
精华2
ESP32搭建TFT_LCD中文字库,附常用字库
评测文章
【六岳微LY-F335开发板】+初识篇
《电感应用分析精粹:从磁能管理到开关电源设计》读书笔记
【凌鸥创芯LKS32MC034DOF6Q8】+调试中的困惑
【芯旺32位MCU KF32A156 开发板】介绍、环境搭建、工程测试
【富芮坤FR3068x-C】+经典蓝牙音乐A2DP 音乐播放测试
【Milk-V Duo 开发板】温湿度计,小白入门项目
【凌鸥创芯LKS32MC453RCT8】+ 移植RT-Thread + 串口日志与点灯
【凌鸥创芯LKS32MC034DOF6Q8】+ 电机运行测试
【凌鸥创芯LKS32MC034DOF6Q8】+ 电机运行测试
免费申请
热帖
【E币话题】电子工程师深圳月薪15K,够吗?
走了,华为 —— 38岁起步,不算太晚。
【变废为宝】联想电脑自带鼠标,你看这质量
【变废为宝】紫外消毒灯拆解
【变废为宝】出口小音箱拆解
【E币话题】做嵌入式,硬件方向好还是软件
【变废为宝】光控开关的拆解和原理分析
【变废为宝】将智能插座接入米家,告别多个
C语言中如何将long数据转换成char型数据输
【变废为宝】高端音箱控制器拆解
大家都在看的技术资料
GPS测量仪器使用方法
变压器规格型号容量
干式变压器有哪些分类?干式变压器性能特点介绍
UPS电源内部结构解析,大佬带你看UPS电源防雷误区
绝对压力变送器的工作原理是什么?绝对压力变送器选型事项介绍
【考题】三种组态基本放大电路
dht11温湿度传感器工作原理
运算放大器常见基本应用电路
芯视频
更多>
01:08
DCDC降压恒压芯片-H6203G 150V耐压 8-120V转12V5V4.2V/1.5A瞬态电流达4A 汽车/电动车GPS定位器供电IC 动态响应快,输出电
HQ18925796970
82
纳祥科技NX4920,一款效率高达 90%的2W 24位2W数字功放
CS创世SD NAND如何重塑教育设备存储体验
触摸芯片NT01A在起泡机中的隔空感应应用
镓未来新品亮相全球电子行业的顶级盛会——慕尼黑上海电子展
以创新技术和产品助力人工智能发展
举报
内容系网友发布,其中涉及到安全隐患的内容系网友个人行为,不代表面包板社区观点
请点击举报理由
电子工程专辑
电子技术设计
国际电子商情
在线研讨会
直播
白皮书
研华嵌入式论坛
2025 MCU峰会
2025 AI+IoT生态大会
WAIC2025免费门票-Arm专场
杂志免费订阅
汽车电子专题
Studio
CEO专栏
行业及技术活动
微信入群
全球联播
汽车电子专题
Datasheets查询
电子计算工具
小测验
会员活动中心
原厂技术站
首页
论坛
热门板块
技术问答
电子技术基础
电路图
模拟技术
电源技术与新能源
EDA工具与IC设计
测试测量技术
可编程器件
嵌入式系统与MCU
技术创意与DIY
通信与网络
消费电子与智能设备
机器人技术与设计
采购与销售
分销与供应链
工程师职场
热门主题
「你的愿望清单,社区来买单!」E币兑换—
晶体管光耦的工作原理
笔记本外接显示器,咋没声音呢?
深入解析:灯具球压测试
【资料下载-第三季】电路考试冲刺、300动图
免费报名开启智能 “芯” 未来:2025 MCU及
AIoT 从业者必参的年度盛会免费报名已开启
什么时候社区商城上个机械键盘
精华主题
社区内容发布、审核与管理!严厉打击刷流量
【资料汇总】最全实用电路合集,电路学习从
【转载】LIN总线入门
ESP32搭建TFT_LCD中文字库,附常用字库
十天学会单片机实例100+C51应用实战集锦
【2025下载活动第1季】献宝“硬货”瓜分100
ESP32WIFI测试工具(WIFI杀手)
错过等一年!零距离技术盛宴 MATLAB EXPO
下载
热门类别
基础知识
电源/功率
PCB
单片机/嵌入式
FPGA
模拟/数字
处理器/DSP
测试测量
通信/RF/网络
软件/EDA/IP
AI/机器人/无人机
制造与封装
书籍
源码
原理图
电路图
热门资料
300个超多动图、小视频,帮你理清电子电路基础知识!(1)
300个超多动图、小视频,帮你理清电子电路基础知识!(3)
300个超多动图、小视频,帮你理清电子电路基础知识!(2)
电子电路分析考试题目+学习思维导图
电动车无刷控制器成熟量产方案(含原理图 PCB 源代码)
初级无刷电机设计学习资料
最新技术白皮书
【国际电子商情2025年7月杂志】低空经济加速起飞:千米空域,万亿蓝海
【2025年7月电子工程专辑杂志】从“三共计算”到生态重塑,舱驾融合开启智驾新范式
电池仿真白皮书
ST在大功率热管理系统中的电机控制系统方案
工程师必看!全面剖析轻型电动车辆 (LEV)
多圈传感器 ADMT4000 的设计指南
剖析 MAXQ™ Power架构核心技术(含案例分析)
MOSFET和GaN FET应用手册:电源设计工程师指南(共542页)
【2025年6月电子工程专辑杂志】边缘智能:数字化浪潮下的变革新引擎
【国际电子商情2025年6月杂志】2024年度全球电子元器件分销商营收排名TOP50
博客
热门板块
FPGA/CPLD
MCU/嵌入式
模拟
电源/新能源
测试测量
通信
PCB
汽车电子
软件与OS
采购与分销
供应链管理
工程师职场
EDA/IP/设计与制造
无人机
机器人/AI
推荐博文
单片机系统
Sub-GHz射频芯片,如何在复杂环境中提升信
小风扇,组装用作换气扇
利润暴跌47%,拼多多慌不慌?
光电耦合器:数字时代的隐形守护者
CAN 总线遇强干扰时,隔离式收发器如何实现
为什么我的高阶电视竟无法输出8声道Audio?
Pickering Interfaces推出全新高速PXI旋转
最新博文
单片机系统
医疗专用电源滤波器能解决的问题
Sub-GHz射频芯片,如何在复杂环境中提升信
德思特干货 | 精准测试,高效分析——ADC直
小风扇,组装用作换气扇
利润暴跌47%,拼多多慌不慌?
光电耦合器:数字时代的隐形守护者
CAN 总线遇强干扰时,隔离式收发器如何实现
评测
W800 Arduino 开发板
查看详情
信号的调制与解调技术
查看详情
芯旺32位MCU KF32A156 开发板
查看详情
硬核
查看详情
六岳微LY-F335开发板
查看详情
凌鸥创芯LKS32MC034DOF6Q8
查看详情
芯语
热门板块
半导体
通信网络
消费电子/手机
汽车电子
物联网
工控
硬件设计
嵌入式/FPGA
电源/能源
测试测量
人工智能/机器人
科技前沿
供应链
工程师职场
最新芯语
林雪萍|我在印尼看中国企业大出海【2万字长文】
股价何时企稳回升?“2025京东方投资者日”在沪举办
iPhone 17e OLED屏幕:京东方、三星均参与开发
官宣:智元机器人借壳上市,A股人形机器人第一股!
【汽车校友百校联盟】广汽菲克正式破产:14年合资历程终结,核心资产五次流拍无人接盘
铜危机逼近!全球32%半导体生产或受气候变化冲击
被中国车企"卷"着走的高通芯片
荣耀 “三叶草” 战略:以AI落地破局,让自由体验照进现实
"不靠营销靠实力!小米YU7卖爆真相:雷军亲述'产品力+体验'双杀招"
正式发布|机器视觉开发者专属OpenCV系统化教程
CS专业变文科?18个月重编课程,教师血泪控诉:学生没AI只会发呆
2024汽车出行的未来
文库
热门类别
模拟设计
电源技术
PCB设计
元器件知识
硬件开发经验
封装/工艺
EDA/IC设计
单片机/嵌入式
C语言/编程开发
可编程/FPGA
处理器/DSP
RF/通信
人工智能/机器人
开源设计/DIY
最新文库
为何要发展电源管理芯片?如何选择电源管理芯片?
高效的C编程之:C编译器及其优化(上)
浅析基于MB86R01的汽车数字化虚拟仪表设计
ARM开发:一 ARM微处理器概述
分析C51单片机的一些误区和注意事项
51单片机几个延时程序
总结单片机软件抗干扰的几种办法
有关C51的编程规范
基于蓝牙技术的汽车驾驶盘控制系统
光耦使用经验贴,大佬传授光耦实用技巧
如何选择云存储?云存储技术原理、意义介绍
全方位了解存储,你知道的存储介质有哪些?
活动
技术论坛
更多>
2022电机驱动与控制论坛
深圳市南山区
2022年6月17日
2022全球MCU生态发展大会
深圳市南山区
2022年6月17日
射频与微波技术及应用研讨会
西安天朗森柏大酒店
2022年06月23日
热点活动
更多>
2025 第六届中国国际汽车电子高峰论坛
上海
2025年09月17日
2025 全球 MCU 生态发展大会
深圳
2025年07月24日
2025 第六届国际 AIoT 生态发展大会
深圳
2025年07月24日
社群活动
更多>
资料下载:高级驾驶辅助系统 (ADAS) 技术指南
2024.09.19-2024.10.30
《电信基站应用指南》中文版发布!免费下载
2024.09.01-2024.09.30
Debug一秒看穿故障! Fluke 红外热像仪免费申领
2024.08.01-2024.09.20
投票中:2024全球电子元器件分销商卓越表现奖
2024.08.10-2024.09.11
商城
绿林游标卡尺高精度0.02mm机械式内外径深度测量开式游标卡尺0-150mm
E币:
1599
立即兑换
德力西R2897电笔智能测电压多功能测断线数显电工专用感应试电笔
E币:
1699
立即兑换
得力(deli)多功能零件盒收纳盒乐高黑色透明小格24格分类盒元件盒工具储物盒
E币:
1399
立即兑换
得力 不锈钢镊子3件套
E币:
699
立即兑换
宝工(Pro'skit) 8S005 无酸焊油(50g) 助焊剂 焊锡膏
E币:
599
立即兑换
德力西电气 DELIXI ELECTRIC 手持贴膜烤枪吹风枪
E币:
2399
立即兑换
芯视频
兑奖中心
E聘
NEW
#热门搜索#
NFC
MCU
华为
原理图
关闭
站长推荐
/2
自动驾驶的未来在何处?
从当前的车道保持辅助与泊车辅助功能,到新面世的增强型 3 级环境检测技术,每一项创新,无论看似多么微小,都在推动我们逐步迈向完全自动驾驶的未来。
【2025面包板社区内容狂欢节】发帖/回帖赢25万E币!
活动时间:即日起——2025年全年(发完20万E币为止!)
本网页已闲置超过10分钟,按键盘任意键或点击空白处,即可回到网页
X
最新资讯
蔚来李斌:自研车规5nm芯片“神玑”不易,却势在必行
海康威视加拿大公司已恢复正常运营!
全球半导体5月销售额同比增长19.8%,延续复苏态势
深圳设立50亿元产业基金,十项举措推动半导体产业链自主可控
昔日的“彩电一哥”康佳将易主华润
返回顶部
工具栏