1

所以我不确定这个问题是属于这里还是数学溢出。无论如何,我的问题是关于信息论的。

假设我有一个 16 位字。该数字中有 65,536 个独特的 1 和 0 配置。这些配置中的每一个代表什么并不重要,因为取决于您的符号(2 的补码与有符号幅度等),相同的配置可能意味着不同的东西。

我想知道是否有任何技术可以存储比 16 位字更多的信息?

我最初的想法就像奇偶校验或其他东西,但后来我意识到这已经由配置决定......即其中没有编码额外的信息。我开始怀疑是否不存在这样的事情。

编辑例如,假设一些神奇的计算机(在这里思考量子或其他东西)可以理解 0,1,a。那么显然我们有 3^16 个配置,现在可以存储超过数字 [0 - 65,536] 的数量。为了在比特流中编码额外信息,您是否可以使用 16 位字的任何其他属性?

EDIT2我真的很难用语言表达出来。现在,当我在计算机中查看一个 16 位字时,该属性向我传达了单个 1 和 0 的相对顺序的信息。是否有另一种查看 16 位字的属性或方式,它允许超过 2^16 个独特的“配置”?(请注意,它不再是配置,而是 2^16 xxxx,其中 xxxx 是描述该属性实例的名词)。我唯一能真正想到的是,如果我们查看 1 到 0 转换的数量或其他东西,而不是每个位实际上是 1 还是 0?现在转换不会产生超过 2^16 个组合,因为它最终完全取决于 1 和 0 的配置。我正在寻找从 1 和 0 的配置派生的属性以及其他导致超过2^16 的属性。有没有人知道如果它确实存在会被称为什么?


EDIT3好的,我明白了。我的问题归结为:我们如何证明一个词中的 1 和 0 的配置完全定义了它?IE 我们如何证明除了位图之外不需要其他信息来显示两个 16 位字之间的相等性?


最终编辑

我有一个例子......如果不是查看 1 和 0 的存在,而是查看位之间的转换,我们可以存储 2^16 个字母字符。如果左边的位相同,则将其视为 1,如果转换,则将其视为 0。使用 16 位字作为循环链表类型结构,其中每个链接表示 0/1,我们基本上是 16 位位之间的转换字。这是我正在寻找的一个确切的例子,但结果是 2^16,没有比这更好的了。我相信你不能做得更好并且正在标记正确的答案=(

4

2 回答 2

2

16 0/1s的特定配置中的信息量是由这种配置的概率决定的(这称为自信息)。如果配置的可能性小于 1/(2^16),则它可能大于 16 位,但这意味着其他一些配置的可能性大于 1/(2^16),因此包含的信息少于 16 位。

要考虑所有可能的配置,您必须使用各个配置的自我信息(称为熵)的期望值。当所有配置的概率相等(即 1/(2^16))时,该值将达到最大值,然后正好是 16 位。

所以答案是否定的,你不能在 16 0/1s 中存储超过 16 位的信息。

编辑重要的是要意识到位不代表0或1,但它是一个信息单位,即-log_2 P(w),其中P(w)是特定配置的概率。

于 2011-06-27T18:18:21.077 回答
0

您不能在一个半导体器件的一位数中存储超过 2 个状态。你自己回答了。将更多信息放入 16 位数字的唯一方法是每个数字都有许多可能的值。

于 2011-06-27T18:10:03.663 回答