information-theory

information-theory

文章 0 浏览 3

一串英文文本的熵如何表示低质量?

Jeff Atwood 最近在 Twitter 上发布了一个 CodeReview 帖子的链接,他想知道社区是否可以改进他的“ 他的方法的要点似乎是,如果你计算唯一字符的数量…

心的憧憬 2024-10-18 18:00:37 4 0

互信息的计算

假设 M 是一组对象 m,每个对象都具有属性 X 和 Y。现在,如果给定 m,X 和 Y 只能有一个值(即 X,Y 是随机变量,其中 P(X=x_i|M=m_i),P( Y=y_i|M=m_…

晨曦÷微暖 2024-10-16 03:41:22 6 0

压缩有理论限制吗?

想象一下,在接下来的 10 年里,您可以使用世界上所有的超级计算机。你的任务是尽可能无损地压缩 10 部完整长度的电影。另一个标准是普通计算机应该能…

怕倦 2024-10-05 22:25:26 5 0

压缩性示例

来自我的算法教科书: 一年一度的县赛马比赛将带来三匹从未相互竞争过的纯种马。您兴奋地研究了他们过去 200 场比赛,并将其总结为四种结果的概率分布…

执手闯天涯 2024-09-05 11:52:38 3 0

如何计算位串的近似熵?

有没有标准的方法来做到这一点? 谷歌搜索 -- “近似熵”位 --揭示了多篇学术论文,但我只想找到一段伪代码,定义任意长度的给定位串的近似熵。 (如…

只怪假的太真实 2024-09-04 06:59:16 8 0

互信息/熵计算帮助

希望有人能给我一些关于这个熵问题的指导。 假设 X 是从均匀整数分布 0-32(含)中随机选择的。 我计算熵 H(X) = 32 位,因为每个 Xi 出现的概率相等…

洛阳烟雨空心柳 2024-08-30 15:22:28 6 0

用一次性一密本编码的信息可以与随机噪声区分开来吗?

据我所知,正确使用的一次性密码的密文绝对不会泄露有关加密消息的任何数据。 这是否意味着无法区分使用一次性密码本加密的消息和完全随机的噪声?或…

红焚 2024-08-26 14:22:49 8 0

如何调整随机数据流中值的分布?

给定来自有偏差的随机 0 和 1 的无限流(例如,已知因素下 1 比 0 更常见),但在其他方面是理想的随机数生成器,我想将其转换为(更短的)无限流,就…

贪了杯 2024-08-24 06:11:55 9 0

对信息论有很好的介绍吗?

Closed. This question is seeking recommendations for software libraries, tutorials, tools, books, or other off-site resources. It does not …

千鲤 2024-08-22 20:20:36 7 0

解释“信息论”的实用方法

信息论在编码和信息处理中发挥作用。解码存在。例如:压缩(多媒体)、密码学。 在信息论中,我们遇到“熵”、“自信息”、“互信息”等术语,整个主…

嘦怹 2024-08-22 00:10:15 7 0

冗余编码?

这更像是一个计算机科学/信息论问题,而不是一个简单的编程问题,所以如果有人知道更好的网站来发布这个问题,请告诉我。 假设我有一个 N 位数据,将…

云仙小弟 2024-08-19 16:23:27 7 0

用于评估数组单调性的算法(即判断数组的“排序性”)

编辑:哇,很多很棒的回复。是的,我使用它作为适应度函数来判断遗传算法执行的排序的质量。因此,评估成本很重要(即,它必须很快,最好是O(n)。) …

梦晓ヶ微光ヅ倾城 2024-08-18 12:41:51 5 0

扩展霍夫曼码

我有这个作业:找到任何给定字母表中符号的代码字。它说我必须对三个符号组使用二进制霍夫曼。这到底是什么意思?我是否在 [alphabet]^3 上使用常规霍…

柳絮泡泡 2024-08-18 09:12:10 7 0

在 Java 中计算互信息以选择训练集

场景 我正在尝试对 Java GUI 应用程序中的数据集实施监督学习。用户将获得要检查的项目或“报告”列表,并根据一组可用标签对其进行标记。一旦监督学…

风吹过旳痕迹 2024-08-16 14:52:42 7 0

数字的哪一部分具有更多的熵?

给定数字序列 N1, N2, N 3... 来自某个来源,不是 PRNG,而是某种传感器或记录数据,可以安全地假设像这样处理它 Nn / B = Qn雷姆 Mn 会导致序列 Q 的…

你丑哭了我 2024-07-22 07:47:14 6 0
更多

推荐作者

linfzu01

文章 0 评论 0

可遇━不可求

文章 0 评论 0

枕梦

文章 0 评论 0

qq_3LFa8Q

文章 0 评论 0

JP

文章 0 评论 0

    我们使用 Cookies 和其他技术来定制您的体验包括您的登录状态等。通过阅读我们的 隐私政策 了解更多相关信息。 单击 接受 或继续使用网站,即表示您同意使用 Cookies 和您的相关数据。
    原文