1

问题

polars我想从mysql数据库中将数据读入数据框中。我正在使用sqlx.

sqlx生成一个结构体向量，例如：Vec<Country>下面：

从sqlx 文档：

// no traits are needed
struct Country { country: String, count: i64 }

let countries = sqlx::query_as!(Country,
        "
SELECT country, COUNT(*) as count
FROM users
GROUP BY country
WHERE organization = ?
        ",
        organization
    )
    .fetch_all(&pool) // -> Vec<Country>
    .await?;

// countries[0].country
// countries[0].count

我如何使用它Vec<Country>来生成极坐标数据框

从polars 文档：


 use polars_core::prelude::*;
 let s0 = Series::new("a", &[1i64, 2, 3]);
 let s1 = Series::new("b", &[1i64, 1, 1]);
 let s2 = Series::new("c", &[2i64, 2, 2]);
 let list = Series::new("foo", &[s0, s1, s2]);

 let s0 = Series::new("B", [1, 2, 3]);
 let s1 = Series::new("C", [1, 1, 1]);
 let df = DataFrame::new(vec![list, s0, s1]).unwrap();

可能的解决方案

我能想到的唯一解决方案是，如果我可以为Country结构内的每一列/数据创建一个系列，并使用这些单独的系列来创建一个数据框。

我不知道如何分解Vec<Country>成Vec<country>和Vec<count>

4

2 回答 2

3

您可以为此使用构建器或从迭代器中收集。从迭代器中收集通常很快，但在这种情况下，它需要您循环Vec<Country>两次，因此您应该进行基准测试。

下面是显示的两种解决方案的示例函数。

use polars::prelude::*;

struct Country {
    country: String,
    count: i64,
}

fn example_1(values: &[Country]) -> (Series, Series) {
    let ca_country: Utf8Chunked = values.iter().map(|v| &*v.country).collect();
    let ca_count: NoNull<Int64Chunked> = values.iter().map(|v| v.count).collect();
    let mut s_country: Series = ca_country.into();
    let mut s_count: Series = ca_count.into_inner().into();
    s_country.rename("country");
    s_count.rename("country");
    (s_count, s_country)
}

fn example_2(values: &[Country]) -> (Series, Series) {
    let mut country_builder = Utf8ChunkedBuilder::new("country", values.len(), values.len() * 5);
    let mut count_builder = PrimitiveChunkedBuilder::<Int64Type>::new("count", values.len());

    values.iter().for_each(|v| {
        country_builder.append_value(&v.country);
        count_builder.append_value(v.count)
    });

    (
        count_builder.finish().into(),
        country_builder.finish().into(),
    )
}

顺便说一句，如果你想要最大的性能，我真的推荐connector-x。它具有极地和箭头集成，并具有疯狂的性能。

于 2021-09-09T18:48:11.453 回答
1

我不知道这些DataFrames 的结构，或者Series如果你想拆分一个结构向量，你可以编写一个小的 reducer，它迭代向量的内容并将它们推送到多个新向量中。

一个简化的操场片段： https ://play.rust-lang.org/?version=stable&mode=debug&edition=2018&gist=f698866751214fc3f44c348b7c4f80c5

struct A(u8, i8);

fn main() {
    let v = vec![A(1, 4), A(2, 6), A(3, 5)];

    let result = v.into_iter()
        .fold((vec![], vec![]), |(mut u, mut i), item| {
            u.push(item.0);
            i.push(item.1);
            (u, i)
        });
    
    dbg!(result);

    // `result` is just a tuple of vectors
    // let (unsigneds, signeds): (Vec<u8>, Vec<i8>) = result;
}

您基本上采用结构向量，迭代它们并将它们一个一个折叠到提供的新（空）向量中。最后，返回结果（2 个向量的元组）。你现在可以用这些做你想做的事。

于 2021-09-09T05:10:03.557 回答