NNTP 使用网下载消息
我想将 usenet 消息下载到我的个人 Mysql 数据库,因此无需使用任何新闻阅读器。 目前我正在使用 .NET 的 IpWorks 组件。我在 Vb.Net 中创建了一个简单的应用程序,它可以工作,但它真的很慢......下载并执行 INSERT INTO 。 有人知道一些更好的方法来“大量”下载消息并将其插入到一个简单的 mysql 表中吗?
I would like to download usenet messages to my personal Mysql database, so without using any newsreader.
At the moment i'm using IpWorks component for .NET . I've created a simple app in Vb.Net, It works, but it's realy slow... to download and to do the INSERT INTO .
Anyone know some better method to "massive" download message and insert it into a simple mysql table?
如果你对这篇内容有疑问,欢迎到本站社区发帖提问 参与讨论,获取更多帮助,或者扫码二维码加入 Web 技术交流群。
绑定邮箱获取回复消息
由于您还没有绑定你的真实邮箱,如果其他用户或者作者回复了您的评论,将不能在第一时间通知您!
发布评论
评论(1)
您可能想尝试使用 批量插入 或延迟插入,而不是按顺序逐行输入项目。
此外,其中很多工作都可以异步完成。您正在做的大部分工作(写入数据库并从 nntp 下载内容)并不绑定到您计算机上的资源。您可以在与执行插入的线程分开的线程中执行nntp内容的下载和读取(您应该在将要插入的内容发送到mysql之前对其进行缓冲)。
基本上,您需要一个生产者消费者模式。
You might want to try using a bulk insert or a delayed insert instead of entering items row by row sequentially.
Additionally, a lot of this can be done asynchronously. Most of the work you are doing (writing to the database and downloading the content from nntp) is not bound to resources on your machine. You can perform the downloading and reading of the nntp content in a thread separate from the ones that perform the inserts (you should buffer the content you want to insert before you send it to mysql).
Basically, you want a producer consumer pattern.