处理“大数据”的技术高效(读、写、查询、聚合)

发布于 2024-11-16 06:55:38 字数 268 浏览 0 评论 0原文

为 Web 应用程序构建概念验证分析仪表板功能,允许用户查看谁访问了他们的个人资料并查看他们发布的内容。想想.me 风格的仪表板。

当前,当用户在应用程序中执行相关操作时,将数据点(主语、动词、宾语、时间戳元组格式)写入 MySQL 表(正在迅速接近一百万条记录)。使用 cURL + cron 作业 + 消息队列机制,这种写入是不同步的。

不确定如何在分析仪表板上继续实际整理、聚合和呈现这些数据,而不会占用我服务器上太多的资源。

寻找技巧、战争故事和技术来简化我的生活。

Building a proof of concept analytics dashboard feature for a web application, allowing users to view who has been visiting their profile and viewing the content they have posted. Think about.me style dashboard.

Currently writing data points (subject, verb, object, timestamp tuple format) into a MySQL table (which is rapidly approaching a million records) as users perform relevant actions in the application. This writing happens out of sync using a cURL + cron job + message queue mechanism.

Not sure how to proceed for the actual collation, aggregation and presentation of this data on the analytics dashboard in a way that won't tie up far too many resources on my server.

Looking for tips, war stories and technologies that will simplify my life with this stuff.

如果你对这篇内容有疑问,欢迎到本站社区发帖提问 参与讨论,获取更多帮助,或者扫码二维码加入 Web 技术交流群。

扫码二维码加入Web技术交流群

发布评论

需要 登录 才能够评论, 你可以免费 注册 一个本站的账号。

评论(1

四叶草在未来唯美盛开 2024-11-23 06:55:38

为什么不直接从 select 查询开始,看看它的执行情况如何?
如果遇到速度缓慢的情况,您始终可以:

  • 调整查询、使用内存表、利用触发器、黑洞表等发挥创意。
  • 安装一个从服务器并从从服务器中选择。
  • 安装黑洞主服务器并附加多个从服务器,

我建议您阅读高性能MySQL:http://oreilly.com/目录/9780596003067

Why not just start with the select queries and see how it performs?
If and when you run into slowness you can always:

  • Tweak your queries, use memory tables, get creative with triggers, blackhole tables and whatnot.
  • Install a slave server and select from the slave.
  • Install a blackhole master and attach multiple slaves to that

I recommend that you read High performance MySQL: http://oreilly.com/catalog/9780596003067

~没有更多了~
我们使用 Cookies 和其他技术来定制您的体验包括您的登录状态等。通过阅读我们的 隐私政策 了解更多相关信息。 单击 接受 或继续使用网站,即表示您同意使用 Cookies 和您的相关数据。
原文