今天，我问一位心理学家，你如何设计一个智商测试来评估一个比设计师更聪明的人？他回答我，就像你可以设计一个棋类游戏程序一样，设计者赢不了！
但是，作为初学者，我不确定这个问题是否可以在这里得到回答，但是如果我们可以编写一个可以自行进化和学习的程序，使人类（甚至是程序员）无法预测它，这对我来说很有趣。希望答案是假的，否则，未来可能会出现行为不可预测的病毒或蠕虫，控制人类社会！
问问题
296 次
3 回答
3
人工智能代理在某个编程空间内运行（下棋代理在下棋空间内）。
代理不能离开编程空间。国际象棋特工不太可能很快接管世界。从这个意义上说是可以预见的。
这个空间中的行为在某种程度上是可以预测的（这种行为毕竟是基于明确定义的数学方程）（这些方程通常非常复杂，因此不容易预测，但可能），但通常会涉及一些随机性，这显然是不可预测。
请注意，“智能”与可预测性不同。长期以来，研究人员一直试图让人工智能真正变得智能，但进展缓慢（可以说）。
编辑：
请注意，某些代理可以将其编程空间设置为整个世界。这不会强制执行很多边界。
我所说的“编程空间”并不是指被编程到代理中的内容，而是代理被编程为观察或执行的内容。如果代理只能看到棋盘，只能下棋，它怎么会不仅仅是下棋代理？
真正的进化可能允许代理扩展他们的编程空间，但我必须考虑这是否真的可能。
于 2013-02-18T14:08:56.620 回答
2
有可能的。国际象棋程序实际上确实以很大的优势击败了他们的设计师。他们以较小的优势击败了国际象棋世界冠军，但这只是时间问题。
有一个系统“学会如何更快地学习”的例子：地球上的进化已经优化了自己。基因和行为被优化以促进高边际改善率。由于自然缺陷（辐射、化学过程……），繁殖几乎从不失败，基因的突变量恰到好处。“可调参数”设置得很好。
于 2013-02-18T14:03:56.677 回答
1
我认为您在问题中的文字描述了两种情况：
第一个 alinea 涵盖了 IQ 测试和国际象棋游戏。两者都有有限的选择。尽管有很多可能性，但它仅限于一定数量，并且可以从一开始就排除很多可能性，因为它们的使用率太低甚至无法考虑。因此，存在这样的程序。请注意，仍然有很多可能性，这就是为什么它还不完美。
第二个 alinea 涵盖自学习程序或机器人。在现实世界中，有无数种可能性，可能发生的事情。您可能会尝试编写程序，但是（在不久的将来）您无法获得生活所提供的所有东西。
我必须在下面评论杜克林的评论。如果你设法编写一个程序，该程序可以学会对生活所提供的几乎所有东西（包括负面部分）做出反应，那么这样的人工智能可能会评估他自己的“空间”，并且能够看甚至走出它。
长话短说：它会发生。其结果将是未知的：要么机器人被完美地编程，要么将被关闭，或者人类将灭绝。由于我们将以您现在无法想象的速度推进技术，每一种情况都是可能的。你有疑问吗？去告诉某人 50 年前，一台机器击败了国际象棋中最好的棋手。
于 2013-02-18T14:15:24.930 回答