MongoDB 存储大量指标/分析数据的方法

Question

我们计划使用 MongoDB 来存储大量分析数据，例如浏览量和点击量。我不确定在 MongoDB 中构建文档以帮助查询和减少数据库大小的最佳方法。

我们需要记录针对页面名称、客户端和操作类型的操作。理想情况下，我们需要年/月/日/小时级别的统计数据，我们不需要或关心每秒或每分钟的视图。虽然此文档结构看起来不错，但我知道 100 个访问者会生成 100 个新文档。

{ 
  "_id" : ObjectId( "4dabdef81a34961506040000" ),
  "pagename" : "Hello",
  "action" : "view",
  "client" : "client-name",
  "time" : Date( "Mon Apr 18 07:49:28 2011" )
}

是否有最佳实践方法可以使用 $inc或上限集合？

Answer 1

更新的答案

在 mongo shell 中一起破解：

use pagestats;

// a little helper function
var pagePerHour = function(pagename) {
    d = new Date();
    return {
        page : pagename,
        year: d.getUTCFullYear(),
        month: d.getUTCMonth(),
        day : d.getUTCDate(),
        hour: d.getUTCHours(),
    }
}

// a pageview happened
db.pagestats.update(
    pagePerHour('Hello'),
    { $inc : { views : 1 }},
    true ); //we want to upsert

// somebody tweeted our page twice!
db.pagestats.update(
    pagePerHour('Hello'),
    { $inc : { tweets : 2 }},
    true ); //we want to upsert

db.pagestats.find();
// { "_id" : ObjectId("4dafe88a02662f38b4a20193"),
//   "year" : 2011, "day" : 21, "hour" : 8, "month" : 3,
//   "page" : "Hello",
//   "tweets" : 2, "views" : 1 }

// 24 hour summary 'Hello' on 2011-4-21
for(i = 0; i < 24; i++) {
    //careful: days (1-31), month (0-11) and hours (0-23)
    stats = db.pagestats.findOne({ page: 'Hello', year: 2011, month: 3, day : 21, hour : i})
    if(stats) {
        print(i + ': ' + stats.views + ' views')
    } else {
        print(i + ': no hits')
    };
}

根据您想要跟踪的方面，您可能会考虑添加更多集合（例如用于以用户为中心的跟踪的集合）。希望有帮助。

另请参阅

有关分析数据的博文

Answer 2

我不会太担心空间，Mongo 在这方面可以无限​​扩展，添加更多空间会相当便宜。

需要注意的一件事是，如果您不断更新文档，它的大小将会增加，这意味着 Mongo 最终需要在索引中为其找到一个新位置。如果您有大量文档正在更新并且大小不断增加，Mongo 将需要大量复制这些文档，这可能会显着减慢速度。当然，这一切都取决于您预期的流量。

根据我的经验，使用简单的文档格式，您不需要更新文档，它可能会使您以后的查询变得复杂，但是您可以使用 map/reduce 来获取您想要的任何信息，无论您的文档结构如何（map如果有足够的经验，reduce 非常灵活，你可以做任何事情）。