LevelDB 键,来自 csv 的值

发布于 2025-01-01 00:59:59 字数 267 浏览 1 评论 0原文

我有一个巨大的 csv 文件数据库,大约有 5M 行,具有以下字段,

start_ip,end_ip,country,city,lat,long 

我将这些字段存储在 LevelDB 中,使用 start_ip 作为键,其余作为值。

我如何检索密钥记录

( ip_key > start_ip and ip_key < end_ip )

任何替代解决方案。

I've huge csv file database of ~5M rows having below fields

start_ip,end_ip,country,city,lat,long 

I am storing these in LevelDB using start_ip as the key and rest as the value.

How can I retrieve records for keys where

( ip_key > start_ip and ip_key < end_ip )

Any alternative solution.

如果你对这篇内容有疑问,欢迎到本站社区发帖提问 参与讨论,获取更多帮助,或者扫码二维码加入 Web 技术交流群。

扫码二维码加入Web技术交流群

发布评论

需要 登录 才能够评论, 你可以免费 注册 一个本站的账号。

评论(1

紫罗兰の梦幻 2025-01-08 01:00:00

我假设您的密钥是 IP 的哈希值,并且哈希值是 64 位“无符号”整数,但如果情况并非如此,则只需修改下面的代码即可使用正确的密钥。

void MyClass::ReadRecordRange(const uint64 startRange, const uint64 endRange)
{
    // Get the start slice and the end slice
    leveldb::Slice startSlice(static_cast<const char*>(static_cast<const void*>(&startRange)), sizeof(startRange));
    leveldb::Slice endSlice(static_cast<const char*>(static_cast<const void*>(&endRange)), sizeof(endRange));

    // Get a database iterator
    shared_ptr<leveldb::Iterator> dbIter(_database->NewIterator(leveldb::ReadOptions()));

    // Possible optimization suggested by Google engineers 
    // for critical loops. Reduces memory thrash.
    for(dbIter->Seek(startSlice); dbIter->Valid() && _options.comparator->Compare(dbIter->key(), endSlice)<=0); dbIter->Next())
    {
        // get the key
        dbIter->key().data();

        // get the value
        dbIter->value().data();

        // TODO do whatever you need to do with the key/value you read
    }
}

请注意,_options 与您打开数据库实例时使用的leveldb::Options 相同。您希望使用选项中指定的比较器,以便读取记录的顺序与数据库中的顺序相同。

如果您不使用 boost 或 tr1,那么您可以使用类似于 shared_ptr 的其他内容,或者自己删除 leveldb::Iterator 。如果您不删除迭代器,那么您将泄漏内存并在调试模式下获得断言。

I assume that your keys are the hash values of the IP and the hashes are 64-bit `unsigned' integers, but if that's not the case then just modify the code below to account for the proper keys.

void MyClass::ReadRecordRange(const uint64 startRange, const uint64 endRange)
{
    // Get the start slice and the end slice
    leveldb::Slice startSlice(static_cast<const char*>(static_cast<const void*>(&startRange)), sizeof(startRange));
    leveldb::Slice endSlice(static_cast<const char*>(static_cast<const void*>(&endRange)), sizeof(endRange));

    // Get a database iterator
    shared_ptr<leveldb::Iterator> dbIter(_database->NewIterator(leveldb::ReadOptions()));

    // Possible optimization suggested by Google engineers 
    // for critical loops. Reduces memory thrash.
    for(dbIter->Seek(startSlice); dbIter->Valid() && _options.comparator->Compare(dbIter->key(), endSlice)<=0); dbIter->Next())
    {
        // get the key
        dbIter->key().data();

        // get the value
        dbIter->value().data();

        // TODO do whatever you need to do with the key/value you read
    }
}

Note that _options are the same leveldb::Options with which you opened the database instance. You want to use the comparator specified in the options so that the order in which you read the records is the same as the order in the database.

If you're not using boost or tr1, then you can either use something else similar to the shared_ptr or just delete the leveldb::Iterator by yourself. If you don't delete the iterator, then you'll leak memory and get asserts in debug mode.

~没有更多了~
我们使用 Cookies 和其他技术来定制您的体验包括您的登录状态等。通过阅读我们的 隐私政策 了解更多相关信息。 单击 接受 或继续使用网站,即表示您同意使用 Cookies 和您的相关数据。
原文