生成器/块到迭代器/流的转换

Question

基本上我想将其转换为： 转换

def data(block: T => Unit)

为 Stream （dataToStream 是执行此转换的假设函数）：

val dataStream: Stream[T] = dataToStream(data)

我想这个问题可以通过延续来解决：

// let's assume that we don't know how data is implemented
// we just know that it generates integers
def data(block: Int => Unit) { for (i <- 0 to 10) block(i) }

// here we can print all data integers
data { i => println(i) }

// >> but what we really want is to convert data to the stream <<

// very dumb solution is to collect all data into a list
var dataList = List[Int]()
data { i => dataList = i::dataList }
// and make a stream from it
dataList.toStream

// but we want to make a lazy, CPU and memory efficient stream or iterator from data
val dataStream: Stream[Int] = dataToStream(data)
dataStream.foreach { i => println(i) }

// and here a black magic of continuations must be used
// for me this magic is too hard to understand
// Does anybody know how dataToStream function could look like?

谢谢，Dawid

Answer 1

编辑：修改示例以显示 traversable.view 的惰性。

scala> def data(f : Int => Unit) = for(i <- 1 to 10) {    
     |   println("Generating " + i)
     |   f(i)
     | }
data: (f: (Int) => Unit)Unit

scala> def toTraversable[T]( func : (T => Unit) => Unit) = new Traversable[T] {
     |   def foreach[X]( f : T => X) = func(f(_) : Unit)                       
     | }                                                                       
toTraversable: [T](func: ((T) => Unit) => Unit)java.lang.Object with Traversable[T]

toTraversable 方法会将您的数据函数转换为 Traversable 集合。就其本身而言，它并不大，但您可以将其转换为惰性的 TraversableView。下面是一个例子：

scala> toTraversable(data).view.take(3).sum
Generating 1
Generating 2
Generating 3
Generating 4
res1: Int = 6

take 方法的不幸本质是它必须超过最后生成的值才能正常工作，但它会提前终止。如果没有“.view”调用，上面的代码看起来是一样的。然而，这里有一个更引人注目的例子：

scala> toTraversable(data).view.take(2).foreach(println)
Generating 1
1
Generating 2
2
Generating 3

所以总而言之，我相信您正在寻找的集合是 TraversableView，它最容易创建视图，制作 Traversable 然后在其上调用“view”。如果您确实想要 Stream 类型，这里有一个在 2.8.0.final 中工作的方法，它将创建一个没有线程的“Stream”：

scala> def dataToStream( data : (Int => Unit) => Unit) = {
     |   val x = new Traversable[Int] {                     
     |     def foreach[U](f : Int => U) = {                 
     |        data( f(_) : Unit)                            
     |     }
     |   }
     |   x.view.toList.toStream                             
     | }
dataToStream: (data: ((Int) => Unit) => Unit)scala.collection.immutable.Stream[Int]

scala> dataToStream(data)
res8: scala.collection.immutable.Stream[Int] = Stream(0, ?)

该方法的不幸本质是，它将在创建流之前迭代整个可遍历对象。这也意味着所有值都需要缓冲在内存中。唯一的选择是诉诸线程。

顺便说一句：这是更喜欢 Traversables 作为从 scalax.io.File 方法直接返回的动机：“lines”、“chars”和“bytes”。

Answer 2

这是一个简单的解决方案，它生成一个消耗数据的线程。它将数据发布到 SynchronousQueue。创建并返回从队列中提取数据的流：

 def generatortostream[T](f: (T=>Unit)=>Unit): Stream[T] = {
  val queue = new java.util.concurrent.SynchronousQueue[Option[T]]
  val callbackthread = new Runnable {
    def run() { f((Some(_:T)) andThen (queue.put(_))); queue.put(None) }
  }   
  new Thread(callbackthread).start()
  Stream.continually(queue.take).takeWhile(_.isDefined).map(_.get)
}   

Answer 3

我仍然需要自己弄清楚如何做到这一点。我怀疑答案就在这里：

• Jim McBeath 的博客，例如 独立通用 Scala 生成器
• 另一个博客 - Notas van de Vos Scala 中的生成器

编辑：删除了显示如何解决不同问题的代码。

编辑2：使用代码http最初发布的://gist.github.com/580157 http://gist.github.com /574873，你可以这样做：

object Main {
  import Generator._

  def data = generator[Int] { yld =>
    for (i <- suspendable(List.range(0, 11))) yld(i)
  }

  def main(args: Array[String]) {
    for( i <- data.toStream ) println(i)
  }
}

data不接受块代码，但我认为这很好，因为通过延续，块可以由调用者处理。 Generator的代码可以在github上的gist中看到。

Answer 4

这是一个基于分隔连续的实现，改编自 @Geoff Reedy 的产品：

import Stream._
import scala.util.continuations._
import java.util.concurrent.SynchronousQueue

def toStream[A](data: (A=>Unit)=>Unit):Stream[A] = reset {
    val queue = new SynchronousQueue[Option[A]]
    queue.put(Some(shift { k: (A=>Unit) =>
        new Thread() { 
            override def run() {
                data(k)
                // when (if) the data source stops pumping, add None 
                // to signal that the stream is dead
                queue.put(None)
            }
        }.start()
        continually(queue.take).takeWhile(_.isDefined).map(_.get)
    })
}