问题标签 [azure-hdinsight]

For questions regarding programming in ECMAScript (JavaScript/JS) and its various dialects/implementations (excluding ActionScript). Note JavaScript is NOT the same as Java! Please include all relevant tags on your question; e.g., [node.js], [jquery], [json], [reactjs], [angular], [ember.js], [vue.js], [typescript], [svelte], etc.

0 投票
1 回答
581 浏览

azure - HDInsight Azure Blob 存储更改

在 HDInsight 群集上,使用 CREATE EXTERNAL 语句创建 Hive 表:

然后更改了一些现有文件,将一些文件添加到 CREATE 语句中提到的 Azure Blob 容器。

新的 hive 查询是否会考虑对 Blob 容器所做的更改而无需再次将数据加载到 hive 表?

0 投票
2 回答
1341 浏览

azure - pipemapred waitoutputthreads 子进程失败,代码为 255

我在 Azure HDInsight (Hadoop) 上运行一个简单的 Map/Reduce 作业。映射器失败并出现以下错误(来自 JobTracker 日志)...

我正在使用 Hadoop.Connect 方法连接到集群...

由于作业已启动并记录,我假设连接成功。作为一个简单的测试,我正在发出少量数据......

完全被难住了,比尔

更新 这个 MapReduce 产生了两个作业。这第一个成功完成,第二个失败,但出现以下异常......

在 Microsoft.Hadoop.MapReduce.MapperMain.Main() 在 Microsoft.HdInsight.MapDriver.Program.Main(String[] args

0 投票
2 回答
210 浏览

hive - .NET 中的 HDInsight Hive UDF

我已经看到有 Microsoft .NET SDK For Hadoop。我发现 Map/Reduce 程序现在可以用 .NET for HDInsight 编写。
有没有办法我们也可以为 HDInsight 编写 Hive UDF?

0 投票
1 回答
2157 浏览

c# - 创建新 HiveConnection 时加载 Microsoft.WindowsAzure.Storage 时出现异常

我有这个代码工作:

但是当我通过 Nuget 更新 dll 时,我开始收到这个异常:

{“无法加载文件或程序集 'Microsoft.WindowsAzure.Storage, Version=2.0.0.0, Culture=neutral, PublicKeyToken=31bf3856ad364e35' 或其依赖项之一。找到的程序集的清单定义与程序集引用不匹配。(来自异常HRESULT: 0x80131040)":"Microsoft.WindowsAzure.Storage,版本=2.0.0.0,文化=中性,PublicKeyToken=31bf3856ad364e35"}

这是我的packages.config:

我已经检查并手动检查了 bin 目录中的所有 dll,以确保版本匹配。我还检查以确保它们都与 Nuget 上的最新版本相匹配。

我试过添加变体:

到 app.config,但它只是在代码的不同部分创建一个新异常。

此代码失败,但出现以下异常:

{"值不能为空。\r\n参数名称:提供者"}

无论我告诉它使用哪个版本的 dll,都会发生这种情况。我在此之外安装了 v2.2 的 SDK。我卸载了它,但这并没有帮助。

在这一点上,我没有想法并且因此而落后于最后期限。有没有人遇到过这个?有没有人对如何解决它有任何想法?

0 投票
1 回答
177 浏览

windows - HDInsight 错误

我正在按照下面显示的链接中的步骤将 Hadoop 2.2 集群与 HDInsight 结合使用。http://azure.microsoft.com/en-us/documentation/articles/hdinsight-get-started-30/

在“运行字数地图减少作业”部分中,我很难获取第 4 步的消息。在 PowerShell 中,我键入以下命令:

提交作业

Select-AzureSubscription $subscriptionName $wordCountJob = Start-AzureHDInsightJob -Cluster $clusterName -JobDefinition $wordCountJobDefinition

我不断收到一条错误消息,指出存在 ParameterArgumentValidationError。我可以使用什么命令来避免出现这些错误?

我是使用 Azure 的新手,真的可以使用一些帮助 :)

0 投票
1 回答
3668 浏览

hadoop - FAILED: SemanticException [Error 10001]

we created a HDinsight cluster associated with a blob storage account, and then we created hive tables and acceded to it using hive queries without problems. but to remove the cluster and create a new one (associated to same blob storage) , the hive tables are not visible from this. when we run hive queries we have the following error message:

Logging initialized using configuration in file:/C:/apps/dist/hive-0.12.0.2.0.7.0-1559/conf/hive-log4j.properties FAILED: SemanticException [Error 10001]: Line 1:14 Table not found 'tableName'

is possible that hive tables created from a cluster run in a another one without problems? or once the tables are created in a cluster do not work in another?

Thank you.

0 投票
1 回答
218 浏览

oozie - HDInsight 上的 Oozie:OozieServerStatus

Oozie 服务器无任何异常启动。尝试使用以下命令获取状态时,出现 404 错误。

来自服务器的错误消息:

Invoke-RestMethod : HTTP Status 404 - /oozie/v2/admin/status type 状态报告消息 /oozie/v2/admin/status description 请求的资源不可用。Apache Tomcat/6.0.36 At line:1 char:13 + $response = Invoke-RestMethod -Method Get -Uri $clusterUriStatus -Credential $cr ... + ~~~~~~~~~~~~~~~ ~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~ ~~~~~~~~~~~~~~~ + CategoryInfo : InvalidOperation: (System.Net.HttpWebRequest:HttpWebRequest) [Invoke-RestMethod], WebExc eption + FullyQualifiedErrorId : WebCmdletWebResponseException,Microsoft.PowerShell.Commands.InvokeRestMethodCommand

0 投票
1 回答
1448 浏览

hadoop - Hive:在 unicode csv 文件上创建表

在 HDInsight 群集上,尝试在 unicode csv 文件上创建 Hive 表。

但是 Hive 不能正确识别 unicode 字符串。此外,所有整数字段都加载为 NULL。

0 投票
2 回答
934 浏览

powershell - HDInsight Oozie: Hive Job Parameters

I am working in the process of automating Hive Jobs using Oozie scipts.
In workflow.xml, I am able to get the values from powershell script file (Oozie job script).
Where in hql file I am unable to get the values defined in powershell script file (Oozie job script).

powershell script file:

Starting the Oozie job like below:

Hive Job (hql file):

0 投票
1 回答
813 浏览

azure - 存在证书问题的 HDInsight 上的 Hive

我正在浏览http://azure.microsoft.com/en-us/documentation/articles/hdinsight-use-hive/但得到

我检查了给我的证书Get-AzureSubscription -Current

唯一不匹配的是CurrentStorageAccountName上面不是我用于 HDInsight 的,而是在查询中设置的。

Add-AzureAccount在这一切之前我也成功执行了。

我们最近更改了订阅的名称(但在我创建 HDInsight 群集及其存储帐户之前),这可能是造成这种情况的原因。

我确实通过 azure 门户删除了我的证书并重新上传了它。

我现在有点卡住了。