众所周知，任何事物都处在不断的运动过程之中，而事物运动的状态和方式往往存在着不确定性。从通信的观点来看，信息就是通信的内容。人们为什么要通信呢?在什么情况下需要通信呢?一般来说，人们需要通信的情况有两种:自己有某种疑问需要向有关的人询问，而且总是估计到被询问者能够解答自己的疑问;或者自己有什么情况或想法需要告诉对方，而且估计对方并不知道这种情况或想法。如果自己没有疑问，自然就没有询问的必要;如果对方已经知道所欲告知的情况，当然也没有通信的必要。这里所说的“疑问”和“不知道”便可以被称为“不定性”，因为所谓“有疑问”，无非是对某个问题的若干种可能的不同答案拿不定主意，而所谓“不知道”，也正是对各种可能性作不出确定性的判断。例如，通信系统传送的内容一般是接收方事先不知道的，对接收方来说是不能事先确定的;雷达之所以要不停地搜索，就是因为目标的出现与否以及何时出现都具有不定性;指挥控制中心何时会收到目标参数以及会收到什么样的目标参数也是事先无法确定的;它将给导弹操纵台发出什么样的发射信息也是事先不可预知的……这些事先不能确知的通信内容、目标参数、控制指令、发射参数等便是不定性。而消除这种不定性就意味着得到了信息，或者反过来说，取得了信息，就可以消除不定性。也正因为如此，在信息论中，有人将信息定义为消除不定性的东西。例如，甲通过通信系统把某项科学实验的结果告诉给乙，在通信之前，乙对这个结果不知道，也就是存在不确定性:成功?失败?几分成败?通信的结果，乙的这种不确定性消除了。再比如，A告诉B“今年某地粮食增产”，B收到这个消息之后，就消除了他关于今年某地粮食是增产还是减产的不定性;但是，到底增产多少?还存在着某些不定性，还需要补充新的信息。显然，收到的信息越多，所能消除的不定性也就越大。所以，信息的数量(或叫信息量)便可以通过它所消除的不定性的大小来计算。于是，度量信息的关键就是要找出不定性数量的度量方法。