scala - 将数据框列中的元素乘以相同的值

Question

使用 pandas/numpy，2x2 矩阵乘以 2x1 矩阵将导致 2x2 矩阵中的每一列与 2x1 矩阵中的相应列值相乘。前任。以下与 numpy

>>> data = np.array([[1, 2], [3, 4]])
>>> data
array([[1, 2],
       [3, 4]])
>>> data * [2, 4]
array([[ 2,  8],
       [ 6, 16]])

如何使用 spark/breeze 完成此操作？我尝试使用new DenseVector(2, 2, Array(1,2,3,4)) * DenseVector(2, 4).

Answer 1

SparkDataFrames不是为线性代数运算而设计的。从理论上讲，您可以使用 合并所有列VectorAssembler并使用 执行乘法ElementwiseProduct：

import org.apache.spark.ml.feature.ElementwiseProduct
import org.apache.spark.mllib.linalg.Vectors
import org.apache.spark.ml.feature.VectorAssembler

val assembler = new VectorAssembler()
  .setInputCols(Array("x1", "x2"))
  .setOutputCol("xs")

val product = new ElementwiseProduct()
  .setScalingVec(Vectors.dense(Array(2.0, 4.0)))
  .setInputCol("xs")
  .setOutputCol("xs_transformed")

val df = sc.parallelize(Seq((1.0, 2.0), (3.0, 4.0))).toDF("x1", "x2")

product.transform(assembler.transform(df)).select("xs_transformed").show
// +--------------+
// |xs_transformed|
// +--------------+
// |     [2.0,8.0]|
// |    [6.0,16.0]|
// +--------------+

但它仅对基本转换有用。

Answer 2

在 Breeze 中，这是通过特殊的广播值来完成的*。

scala> import breeze.linalg._
import breeze.linalg._

scala> val dm = DenseMatrix((1,2), (3,4))
dm: breeze.linalg.DenseMatrix[Int] =
1  2
3  4

scala> dm(*, ::) :* DenseVector(2,4)
res0: breeze.linalg.DenseMatrix[Int] =
2  8
6  16

dm(*, ::) 表示“将操作应用于每一行”。标量乘法是:*，而矩阵/形状乘法是*。