问题标签 [azure-hdinsight]
For questions regarding programming in ECMAScript (JavaScript/JS) and its various dialects/implementations (excluding ActionScript). Note JavaScript is NOT the same as Java! Please include all relevant tags on your question; e.g., [node.js], [jquery], [json], [reactjs], [angular], [ember.js], [vue.js], [typescript], [svelte], etc.
azure - HDInsight Azure Blob 存储更改
在 HDInsight 群集上,使用 CREATE EXTERNAL 语句创建 Hive 表:
然后更改了一些现有文件,将一些文件添加到 CREATE 语句中提到的 Azure Blob 容器。
新的 hive 查询是否会考虑对 Blob 容器所做的更改而无需再次将数据加载到 hive 表?
azure - pipemapred waitoutputthreads 子进程失败,代码为 255
我在 Azure HDInsight (Hadoop) 上运行一个简单的 Map/Reduce 作业。映射器失败并出现以下错误(来自 JobTracker 日志)...
我正在使用 Hadoop.Connect 方法连接到集群...
由于作业已启动并记录,我假设连接成功。作为一个简单的测试,我正在发出少量数据......
完全被难住了,比尔
更新 这个 MapReduce 产生了两个作业。这第一个成功完成,第二个失败,但出现以下异常......
在 Microsoft.Hadoop.MapReduce.MapperMain.Main() 在 Microsoft.HdInsight.MapDriver.Program.Main(String[] args
hive - .NET 中的 HDInsight Hive UDF
我已经看到有 Microsoft .NET SDK For Hadoop。我发现 Map/Reduce 程序现在可以用 .NET for HDInsight 编写。
有没有办法我们也可以为 HDInsight 编写 Hive UDF?
c# - 创建新 HiveConnection 时加载 Microsoft.WindowsAzure.Storage 时出现异常
我有这个代码工作:
但是当我通过 Nuget 更新 dll 时,我开始收到这个异常:
{“无法加载文件或程序集 'Microsoft.WindowsAzure.Storage, Version=2.0.0.0, Culture=neutral, PublicKeyToken=31bf3856ad364e35' 或其依赖项之一。找到的程序集的清单定义与程序集引用不匹配。(来自异常HRESULT: 0x80131040)":"Microsoft.WindowsAzure.Storage,版本=2.0.0.0,文化=中性,PublicKeyToken=31bf3856ad364e35"}
这是我的packages.config:
我已经检查并手动检查了 bin 目录中的所有 dll,以确保版本匹配。我还检查以确保它们都与 Nuget 上的最新版本相匹配。
我试过添加变体:
到 app.config,但它只是在代码的不同部分创建一个新异常。
此代码失败,但出现以下异常:
{"值不能为空。\r\n参数名称:提供者"}
无论我告诉它使用哪个版本的 dll,都会发生这种情况。我在此之外安装了 v2.2 的 SDK。我卸载了它,但这并没有帮助。
在这一点上,我没有想法并且因此而落后于最后期限。有没有人遇到过这个?有没有人对如何解决它有任何想法?
windows - HDInsight 错误
我正在按照下面显示的链接中的步骤将 Hadoop 2.2 集群与 HDInsight 结合使用。http://azure.microsoft.com/en-us/documentation/articles/hdinsight-get-started-30/
在“运行字数地图减少作业”部分中,我很难获取第 4 步的消息。在 PowerShell 中,我键入以下命令:
提交作业
Select-AzureSubscription $subscriptionName $wordCountJob = Start-AzureHDInsightJob -Cluster $clusterName -JobDefinition $wordCountJobDefinition
我不断收到一条错误消息,指出存在 ParameterArgumentValidationError。我可以使用什么命令来避免出现这些错误?
我是使用 Azure 的新手,真的可以使用一些帮助 :)
hadoop - FAILED: SemanticException [Error 10001]
we created a HDinsight cluster associated with a blob storage account, and then we created hive tables and acceded to it using hive queries without problems. but to remove the cluster and create a new one (associated to same blob storage) , the hive tables are not visible from this. when we run hive queries we have the following error message:
Logging initialized using configuration in file:/C:/apps/dist/hive-0.12.0.2.0.7.0-1559/conf/hive-log4j.properties FAILED: SemanticException [Error 10001]: Line 1:14 Table not found 'tableName'
is possible that hive tables created from a cluster run in a another one without problems? or once the tables are created in a cluster do not work in another?
Thank you.
oozie - HDInsight 上的 Oozie:OozieServerStatus
Oozie 服务器无任何异常启动。尝试使用以下命令获取状态时,出现 404 错误。
来自服务器的错误消息:
Invoke-RestMethod : HTTP Status 404 - /oozie/v2/admin/status type 状态报告消息 /oozie/v2/admin/status description 请求的资源不可用。Apache Tomcat/6.0.36 At line:1 char:13 + $response = Invoke-RestMethod -Method Get -Uri $clusterUriStatus -Credential $cr ... + ~~~~~~~~~~~~~~~ ~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~ ~~~~~~~~~~~~~~~ + CategoryInfo : InvalidOperation: (System.Net.HttpWebRequest:HttpWebRequest) [Invoke-RestMethod], WebExc eption + FullyQualifiedErrorId : WebCmdletWebResponseException,Microsoft.PowerShell.Commands.InvokeRestMethodCommand
hadoop - Hive:在 unicode csv 文件上创建表
在 HDInsight 群集上,尝试在 unicode csv 文件上创建 Hive 表。
但是 Hive 不能正确识别 unicode 字符串。此外,所有整数字段都加载为 NULL。
powershell - HDInsight Oozie: Hive Job Parameters
I am working in the process of automating Hive Jobs using Oozie scipts.
In workflow.xml, I am able to get the values from powershell script file (Oozie job script).
Where in hql file I am unable to get the values defined in powershell script file (Oozie job script).
powershell script file:
Starting the Oozie job like below:
Hive Job (hql file):
azure - 存在证书问题的 HDInsight 上的 Hive
我正在浏览http://azure.microsoft.com/en-us/documentation/articles/hdinsight-use-hive/但得到
我检查了给我的证书Get-AzureSubscription -Current
:
唯一不匹配的是CurrentStorageAccountName
上面不是我用于 HDInsight 的,而是在查询中设置的。
Add-AzureAccount
在这一切之前我也成功执行了。
我们最近更改了订阅的名称(但在我创建 HDInsight 群集及其存储帐户之前),这可能是造成这种情况的原因。
我确实通过 azure 门户删除了我的证书并重新上传了它。
我现在有点卡住了。