apache-spark - 如何根据 spark 中的列值生成行？

Question

假设如果我有一列单行

+---+
| id|
+---+
|  4|
+---+

那么我如何根据列的值生成行

+---+
| id|
+---+
| 1 |
|---|
| 2 |
|---|
| 3 |
|---|
| 4 |
+---+

Answer 1

您可以定义一个udf函数来生成范围，然后使用explode函数使它们分隔行

import org.apache.spark.sql.functions._
def generateUdf = udf((column: Int)=> (1 to column).toArray)

df.withColumn("id", explode(generateUdf(col("id")))).show(false)

这应该给你

+---+
|id |
+---+
|1  |
|2  |
|3  |
|4  |
+---+