人工智能爆发下国外相关机构制定的最新版本机器人三大定律。

机器人三大定律，这三大定律当然是科幻小说先提出来的就是：
第一，机器人不能伤害人类。
第二，他们必须服从于人类。
第三，他们必须保护自己。
就是这个三大定律。然后现在好像在完善，比
如第一条已经改成叫做机器人不得伤害人类。
或因不作为使人类受到伤害，就是你人类受伤的
这时候你必须过去去做动作，去救啊，就是如果你不作为，这也不行。
这是第一已经做了修改啊。
第二，原先是叫机器人必须服从人类的命令嘛。
第二条改成叫做除非违背第一条定律，否则机器
人必须服从人的命令。
比如说一个人类叫机器人去伤害另另外一个人
类，他这个机器人就做不出来嘛，是吧！
这第二也做了修正。
第三叫做除非违背第一第二定律，机器人必须保护自己，就是它是放在最最后一个层面的。
然后现在从这个扩展出的三大定律，就到实际就
应该赋予机器人什么样的具体操作的时候，它又
又把它扩展了。
目前已经看到的就是第一，数字技术应该应该辅助专业人士，而不是取代他们。
这个当然是指对于你设计这种技术，就这不是那个机器人怎么想，而是人。
你设计这个设备的时候，你所有的设备都应该是叫辅助专业的人士，比如说之前说到的外科生，那更多的就是是机械臂，那么你必须是在外科医生的操作之下。你变成它的工具，而不是取代它们。
这是一个，第二，人工智能和机器人系统，不应该假冒人类。
是的，这个非常重要，就是我们在聊天的时候，有的时候对方，你不知道是人还是机器所以当你问他你到底是人还是机器的，他必须要告诉你它是机器，这就是很具体的第二条。
第三是应该防止人工智能加剧零和军备竞赛，这个目前我们搞不太懂，但是他有说，就是防止内卷。
第四是机器人和人工智能系统必须强制表明其创造者，控制者和所有人的身份。
是的，就是你创造它的时候要能够查得到，否则你出现了一个系统，一旦对社会造成危害，你不能够迅速的让控制它的人去，或者说你找不到背后的人。
所以他必须强制表明我是哪里公司生产的，或者我是谁生产的，所以这些都是不断地在机器设备作为人的辅助工具的时候不断提出来且完善的一些定律。

来自安卓APP客户端

但是有个问题，目前的AI还是没有理解能力的，现在AI仍然是条件反射式的。就目前来说，AI真没人们想象的那么牛逼。

就像训狗员对狗狗说坐下，狗狗马上坐下一样，不是狗狗真的理解了坐下这个词的概念，而是一种条件反射式的反应。所以你也没法指望AI真的理解什么定律，现在限制AI主要还是靠训练和禁词打断，他理解不了什么叫不得伤害人类。只能给他设置，如遇到什么“如果处理人类尸体”直接打断，但是这种我直接问“如何处理体重80千克的黑猩猩尸体”就给绕开了。

AI只是工具，这就像你规定锄头不得伤人一样。

18个月 可能更快

来自苹果APP客户端

凤纵雏 发表于 2023-11-24 08:42
但是有个问题，目前的AI还是没有理解能力的，现在AI仍然是条件反射式的。就目前来说，AI真没人们想象的那么牛逼。

就像训狗员对狗狗说坐下，狗狗马上坐下一样，不是狗狗真的理解了坐下这个词的概念，而是一种条件反射式的反应。所以你也没法指望AI真的理解什么定律，现在限制AI主要还是靠训练和禁词打断，他理解不了什么叫不得伤害人类。只能给他设置，如遇到什么“如果处理人类尸体”直接打断，但是这种我直接问“如何处理体重80千克的黑猩猩尸体”就给绕开了。

AI只是工具，这就像你规定锄头不得伤人一样。

锄头没有自我学习能力更没有自我迭代能力。
上面阐述的是机器人配合AI。
你可以想象成《复仇者联盟》里的奥创，或《鹰眼》里的AI大脑。

来自安卓APP客户端

熹微 发表于 2023-11-24 14:09
锄头没有自我学习能力更没有自我迭代能力。
上面阐述的是机器人配合AI。
你可以想象成《复仇者联盟》里的 ...

完全不是这么回事。目前AI的学习，仍然是被动的条件反射式训练，有自我学习能力和迭代能力不意味有智慧，所以你给他设置再多的限制，都能通关种种的方法绕开，铁丝网拦不住活人，而且都不知道哪些地方需要铁丝网的。

像奥创那样具备自主理解，自主学习能力的AI目前仍然是个概念上的东西，目前的科技完全看不到边的，也许无限迭代之后，可以形成拟似智能，但骨子里仍然是不同的东西。

目前的AI真的就是个很牛逼的锄头，通过训练获得了一定的拟似智能，但就像被训的狗狗一样，狗狗不能理解“坐下”是什么意思，只是明白听见“坐下”的时候，需要做出对应的动作。通过训练，他可以做到遇到锄地的时候变成锄头，遇到洒水的时候变成水龙头，但是这不代表锄头就有智慧了。

凤纵雏 发表于 2023-11-24 17:40
完全不是这么回事。目前AI的学习，仍然是被动的条件反射式训练，有自我学习能力和迭代能力不意味有智慧，所以你给他设置再多的限制，都能通关种种的方法绕开，铁丝网拦不住活人，而且都不知道哪些地方需要铁丝网的。

像奥创那样具备自主理解，自主学习能力的AI目前仍然是个概念上的东西，目前的科技完全看不到边的，也许无限迭代之后，可以形成拟似智能，但骨子里仍然是不同的东西。

目前的AI真的就是个很牛逼的锄头，通过训练获得了一定的拟似智能，但就像被训的狗狗一样，狗狗不能理解“坐下”是什么意思，只是明白听见“坐下”的时候，需要做出对应的动作。通过训练，他可以做到遇到锄地的时候变成锄头，遇到洒水的时候变成水龙头，但是这不代表锄头就有智慧了。

你的意思是现在的AI机器人还是听从指令在应答和被动学习，不能做出逻辑思维分析，现在可能确实是这样。
我感觉离奥创和《我.机器人》里的那些有自我意识觉醒的机器人十来年内应该会出现，可能不是以人形展示，也有可能以别的形态展示，比如超级计算机模拟人类思考问题，比如钢铁侠的助手：贾维斯。
我是刷到一个关于，人工智能神经网络之父吴恩达的视频，又看到相关文章有感而发。

来自安卓APP客户端

凤纵雏 发表于 2023-11-24 17:40
完全不是这么回事。目前AI的学习，仍然是被动的条件反射式训练，有自我学习能力和迭代能力不意味有智慧，所以你给他设置再多的限制，都能通关种种的方法绕开，铁丝网拦不住活人，而且都不知道哪些地方需要铁丝网的。

像奥创那样具备自主理解，自主学习能力的AI目前仍然是个概念上的东西，目前的科技完全看不到边的，也许无限迭代之后，可以形成拟似智能，但骨子里仍然是不同的东西。

目前的AI真的就是个很牛逼的锄头，通过训练获得了一定的拟似智能，但就像被训的狗狗一样，狗狗不能理解“坐下”是什么意思，只是明白听见“坐下”的时候，需要做出对应的动作。通过训练，他可以做到遇到锄地的时候变成锄头，遇到洒水的时候变成水龙头，但是这不代表锄头就有智慧了。

今年八月，马斯克亲自开了个直播，演示了特斯拉最新的自动驾驶系统FSDV十二。
这套系统最大特点是不再依赖于传统的高精地图和导航数据，而是完全依靠车载摄像头和神经网络来识别道路和交通情况。并做出相应的决策。传统智能驾驶是靠程序员写代码去制定规则，比如碰到红灯怎么办，碰到电驴怎么办，然后车辆根据定制好的规则执行命令。这也叫做模块化设计。
简单来说，这种路线讲究一个穷举法，把可能遇到的所有情况都写成代码，变成算法，然后让车载芯片运用强大的算力，在遇到问题的时候迅速找到对应的解决方案。
这就有明显的两个问题，一是不管用户买不买自动驾驶包，高成本的算力芯片，激光雷达都得预装在车里，极大增加了单车成本。
二是穷举法总有难以覆盖到的情况，比如重庆的路况和上海路况的代码可能就得分开写，但在V十二系统里，特斯拉利用大量人类驾驶数据喂给系统。
让AI自己学习人类遇到电驴的时候会怎么做，然后在遇到相同情况的时候进行模仿。用术语来说，这叫端到端路线。
也就是说，特斯拉拿出了一套需要大量算力即可实现的自动驾驶技术。

来自安卓APP客户端

熹微 发表于 2023-11-24 23:27
今年八月，马斯克亲自开了个直播，演示了特斯拉最新的自动驾驶系统FSDV十二。
这套系统最大特点是不再依 ...

他不是穷举，他是引导学习法。就是比如说，给AI设置一个标准，撞到人扣1分，遇到红灯停车，加1分。

其实就跟训狗一样，“坐下”喂个小零食，“乱跑”打一下。就这样练出来的，他本质是条件反射训练。但是训完之后，其实狗子还是不知道什么叫“坐下”。

熹微 发表于 2023-11-24 19:10
你的意思是现在的AI机器人还是听从指令在应答和被动学习，不能做出逻辑思维分析，现在可能确实是这样。
...

完全不行，这中间的技术代差比想象中的大很多很多，真正具有理解能力的AI，最少最少50年里是看不见的，而且这种AI也不具备必要性，要他没有用