问题标签 [azure-hdinsight]

For questions regarding programming in ECMAScript (JavaScript/JS) and its various dialects/implementations (excluding ActionScript). Note JavaScript is NOT the same as Java! Please include all relevant tags on your question; e.g., [node.js], [jquery], [json], [reactjs], [angular], [ember.js], [vue.js], [typescript], [svelte], etc.

0 投票
1 回答
923 浏览

azure - Hive ODBC 连接到 HDInsight

我正在 Azure 中设置 VM SQL 服务器,我希望它能够连接到 HDInsight 群集上的 Hive。我正在尝试设置 ODBC DSN,但我不确定各种设置是什么以及如何在我的 Azure 门户中找到它们:

  1. 主机名
  2. 用户名
  3. 密码(如果我忘记了可以重置)

干杯,克里斯。

0 投票
1 回答
103 浏览

powershell - Azure - SSMS - PowerShell

我正在完成我的第一个 Azure HDInsight 教程。我可以在本地计算机上不安装 Azure Remote PowerShell 的情况下执行此操作吗?

我可以使用 SSMS (2008R2) 运行 PowerShell 吗?我的第一次尝试使我走上了在 Azure 中使用数据库的道路,但我认为这不是我想要做的(本教程描述了设置存储(不是数据库),然后是一个 HDInsight 实例以与该存储交互)。

我正在做这个教程: http: //www.windowsazure.com/en-us/manage/services/hdinsight/get-started-hdinsight/

谢谢你。

0 投票
2 回答
1488 浏览

windows - 在 HDInsight 上运行 Hive 和 Hadoop 批处理文件

我在让 HDInsight 通过 Powershell 工作时遇到了一些问题。作为临时解决方法,任何人都可以通过 bat 文件指出我运行 Hive/Hadoop 脚本的正确方向。

我尝试创建一个 bat 文件并将其更改为 hive bin 文件夹并运行一些命令,但它不起作用。我猜那是打开dos提示符并运行命令而不是hadoop命令行。

干杯,克里斯。

0 投票
1 回答
846 浏览

azure - System.Security.Cryptography.X509Certificates.X509Certificate2Collection 不包含“Cast”的定义

我正在尝试使用HDInsight .NET SDK 教程创建 MapReduce 作业。

在创建JobSubmissionCertificateCredential对象时,特别是以下行:

X509Certificate2 cert = store.Certificates.Cast<X509Certificate2>().First(item => item.FriendlyName == certfriendlyname);

我收到以下错误:“System.Security.Cryptography.X509Certificates.X509Certificate2Collection”不包含“Cast”的定义,并且没有扩展方法“Cast”接受“System.Security.Cryptography.X509Certificates”类型的第一个参数。可以找到 X509Certificate2Collection'(您是否缺少 using 指令或程序集引用?)

我有...

  • using System.Security.Cryptography.X509Certificates;在我班上名列前茅。
  • 跑了Install-Package Microsoft.WindowsAzure.Management.HDInsight

任何人都知道此代码块的任何更新可以Cast正常工作吗?谢谢!

0 投票
1 回答
874 浏览

azure - 如何从 nodejs/REST api 提交 HDInsight 作业

我正在寻找一种从我的 node.js 应用程序中提交 Pig/Hive 作业的方法。为此,我想为服务提供某种 node.js sdk 或 REST Api。有没有这样的事情。

我做了一些研究,官方的 npm azure 包只处理 hdinsight 集群的创建、列出和删除。我想要的是能够以编程方式将作业提交到集群,而不是使用http://www.windowsazure.com/en-us/manage/中所示的 power shell(我在 linux vms 上)服务/hdinsight/提交-hadoop-jobs-programmatically/教程

谢谢!

0 投票
1 回答
681 浏览

mongodb - 如何将 mongodb 数据连续写入正在运行的 hdinsight 集群

我想保持 Windows azure hdinsight 集群始终运行,以便我可以定期从我的主数据存储(即 mongodb)写入更新,并让它按需处理 map-reduce 作业。

如何通过 hdinsight 服务定期同步来自 mongodb 的数据?我试图不必在任何时候提交新查询时都上传所有数据,而是让它以某种方式预热

在 hdinsight 上可能吗?hadoop甚至可以吗?谢谢,

0 投票
1 回答
229 浏览

hadoop - 在 Hive 中产生大量结果的最佳方法是什么

我一直在尝试使用较大的结果集运行一些 Hive 查询。我的常规方法是通过 WebHCat API 提交作业,并从生成的 stdout 文件中读取结果,或者只是在控制台上运行 hive 并将 stdout 传输到文件。但是,如果结果很大(使用了多个 reducer),则标准输出为空白或被截断。

我目前的解决方案是从结果中创建一个新表,CREATE TABLE FROM SELECT这会引入一个额外的步骤,如果我不想保留结果集,则稍后清理该表。

有没有人有更好的方法来捕获来自此类 Hive 查询的所有结果?

0 投票
1 回答
168 浏览

azure - 在 Windows Azure Blob 和 HDInsight 中插入数据?

我是 Windows Azure 和 HDInsight 的新手,所以如果我的问题很幼稚,请原谅我......在 HDInsight 和 Windows Azure Blob 中插入数据是一回事吗???

请同上指教。

提前致谢

0 投票
1 回答
1122 浏览

c# - 使用 C# 进行 Hadoop 流式处理

我正在使用 HDInsight,但我不明白的是,尽管 Microsoft声称所有数据节点都在 CentOS 和 Java 上运行,但您仍然可以使用 .NET 代码编写 Mapper/Reducer,这是因为 Hadoop Steaming。但是在这些文章中并不清楚 .NET 代码如何在 Linux 上运行(我认为这里不涉及 Mono)。有人可以阐明 .NET 代码最终是如何在每个数据节点上运行的,或者是吗?

0 投票
1 回答
854 浏览

azure - 如何将数据加载到 HDInsight 中?

我是 Windows Azure 的新手。我正在尝试将数据加载到 c#.Net 应用程序中的 HDInsight 中。我用谷歌搜索但找不到任何解决方案。

请向我提供一些信息如何做到这一点。

谢谢