问题标签 [data-collection]

For questions regarding programming in ECMAScript (JavaScript/JS) and its various dialects/implementations (excluding ActionScript). Note JavaScript is NOT the same as Java! Please include all relevant tags on your question; e.g., [node.js], [jquery], [json], [reactjs], [angular], [ember.js], [vue.js], [typescript], [svelte], etc.

0 投票
1 回答
1234 浏览

google-maps-api-3 - 自动从 google maps API 等来源获取限速数据

因此,我开发了一个基于用户偏好优化自行车路线的数学模型,并且我正在尝试开发一个应用程序,其中使用 Dijkstra 的算法(当然还有图表)来解决解决方案。边缘的部分权重基于道路的速度限制,所以我的问题是:

是否有一个好的开源库,例如 Google Maps API 或类似的东西,我可以在其中自动收集这些数据?手动对有问题的图表(华盛顿州西雅图市)执行此操作是不可能的,但我不知道在哪里可以自动化(或编写半自动化程序),收集限速数据,甚至首先获得它。我基本上需要一个限速信息的来源,谷歌地图似乎最有希望,但我找不到任何东西。

谢谢,

泰勒泰米尔

0 投票
3 回答
3969 浏览

node.js - 硬件和 Web 组件之间的实时通信协议是什么?

我不完全确定如何在标题中表达我的问题,如果令人困惑,请道歉。

我想建立一个系统,作为我家的一种信息仪表板。它将由许多硬件和软件组件组成,最终将形成一个简单、干净的网站,并实时显示许多模拟传感器,例如温度、风速和风向等。

我很清楚我要为硬件做什么,以及如何显示信息;我的问题与硬件和 Web 服务器之间的通信有关。

我希望硬件以相当快的速度触发消息,所以我认为 HTTP POST 就足够了。我也不太关心接收 100% 的消息,但接收尽可能多的消息绝对是一个加分项。数据将来自硬件,填充某种数据库(可能是 Redis)。

到目前为止,我已经研究了几件事,但我不确定我是否朝着正确的方向前进。我已经研究过RabbitMQ等面向消息的中间件,但我不相信我需要开销。我还研究了Redis Pub/Sub,这似乎是一个更合适的解决方案,因为我希望 Web 应用程序能够绘制出最后 5 分钟的数据,但即便如此我也不确定。我可以将 UDP 数据包发送到定制的侦听器吗?

我很确定硬件将分为两个阶段(一个 uC 为小型嵌入式 linux 机器提供服务),因此您甚至可以将其比作桌面软件尽快将消息发送到 Web 服务器。

我正在冒险进入一个我完全不了解的领域,因此非常感谢任何指导。

0 投票
2 回答
199 浏览

.net - 将基于 .NET 的数据收集系统迁移到远程无人值守安装?

我需要做一些相当简单的(至少在表面上)数据采集和记录。在偏远地区(如在另一个大陆),将有一些使用专有协议的 RS-485 设备(我们的定制硬件产品),以及一个气象站(风速计和风向标)。对于气象站,我有两个选择:一个将风速输出为方波频率,将方向输出为模拟电压;另一个使用 HID 接口通过 USB 进行通信。这些设备连接的机器需要收集数据、记录数据,并通过 WiFi 连接定期在 Internet 上传输数据。这种传输可以是推或拉——也就是说,我可以定期远程访问机器以获取最新数据,或者机器可以定期将数据上传到 FTP 站点或 Web 服务。

我有一个 .NET 应用程序,它已经完成了大部分工作,针对 .NET 4 编写。它是一个 GUI 交互式应用程序,可显示测量数据并将其记录到文件中。(实际上,我有两个版本的细微差别——一个基于 Winforms,另一个 WPF。)

我有大约一周的时间来开发远程安装解决方案,包括识别和购买任何必要的设备、进行任何必要的编码并使其工作。哦,它必须很便宜。(比如,低于 500 美元会很好。任何超过 1,000 美元的东西都不会启动。)

我想到或建议给我的一些事情:

  • 使用带有 RS-485 转 USB 接口的廉价上网本。好吧,也许……但我真的不希望这会在环境中成立。例如,硬盘驱动器不会喜欢过热或过冷。SSD 是一种选择,但至少还要再花 100 美元,而且我仍然不相信这台机器能承受住湿度和小动物。我可以把它放在一个外壳里,但那是另一项费用。总而言之,我只是觉得这种方法比它需要的更昂贵和复杂,而且不太可能那么可靠。
  • 使用小型单板或工业计算机。这些通常是坚固耐用的,并且许多具有 RS-485 端口和内置的看门狗定时器。有些甚至具有通用数字 I/O。到目前为止,我还没有找到任何带有模拟电压输入的东西,但那些可能也存在。此外,它们通常使用 CompactFlash 卡进行存储。这感觉是正确的近期方法,但运行 Windows 的通常运行它的一些嵌入式版本(如 Windows CE 或 Windows XP Embedded)——这可能很棒,除了我没有这些经验并且不知道启动并运行我的软件需要做多少工作。此外,它们通常具有非常低功率的处理器,我真的不知道我需要什么样的功率。我的应用在现代桌面上运行良好;我不知道它是否也能在这些低端 CPU 上正常工作。其中一些宣称它们与 .NET 2.0 兼容,但我没有看到任何过去的东西,所以至少我可能不得不将所有内容向后移植到 .NET 2.0。哦,到目前为止,我发现的许多计算机都非常昂贵。
  • 使用无线串行服务器这些东西在网络上放置了一个串行端口。您可以远程连接到它,并且串行端口似乎是本地 COM 端口,即使它可能位于世界任何地方。这是RS-485的一种选择。它避免了必须远程管理 PC 并使我的软件远程工作的问题。但是,我担心到世界另一端的 Internet 连接的带宽和可靠性,这对 USB HID 设备没有帮助。(不过,如果事实证明这是一个好方法,我也许可以找到该设备的 RS-485 版本。)
  • 使用数据记录器。这些似乎也相当昂贵——尤其是那些有 WiFi 的——而且我还没有找到任何可以满足我需要的东西。特别是,我们的 RS-485 设备的高数据速率和专有协议似乎是一个障碍。(其中许多设计用于 MODBUS 设备。)基于 USB HID 的气象站不适用于这种方法,所以我必须使用输出频率和电压的气象站。
  • 使用低成本的嵌入式微控制器解决方案。长期(例如未来的项目),这可能是最好的方法。它很便宜,我可以对其进行编程以完全满足我的需要。不过,我不认为自己会在一周内完成这项工作。这是对我的软件的完全重写,并在新的 CPU 和开发环境上加速。

有没有人有这种问题的经验?你能想到的最简单、最便宜、最可靠的方法是什么?我应该看哪些产品或方法?

0 投票
1 回答
235 浏览

asp.net-mvc - 验证 MVC 数据集合

我有一个简单的问题数据模型:

使用这个类,我建立了一个视图模型:

我的控制器构建视图模型(从数据源)并呈现视图:

此视图使用 EditorTemplate:

现在,当页面被回发时,控制器验证响应:

我遇到的问题是大部分工作正常 - 验证和验证摘要显示正确的验证消息。问题是我无法让单个字段验证器呈现错误:

如您所见,当我调用 ModelState.AddModelError() 方法时,我当前使用的是“Questions[0]”格式的键值,但我也尝试了“Questions_0”和其他各种组合。

任何帮助/指导将不胜感激。

[为过长的帖子道歉]

0 投票
1 回答
829 浏览

c# - 在 C# 中解释多项选择形式(论文)

我有一个一次性项目,公司正在为大量人员审计少量数据。让这些人中的每一个进行自我审核可能是最容易的,但并非所有人都可以访问计算机,因此我将不得不使用基于纸张的方法。

你见过那些纸质的多项选择题答卷吗?那些你用黑色钢笔/铅笔填充圆圈的地方。为了输入出生日期、姓名等,有一个垂直的数字和/或字母数组。在纸的顶部/底部和左/右边缘有用于对齐和计时的条。

我想创建自己的工作表来分发,然后在计算机上解析。有没有这方面的开源库?由于我可能只会使用一次,购买扫描仪等可能效率不高 - 但是我们的办公室多功能可以扫描一堆纸张并以 PDF 格式通过电子邮件发送。我可以直接解释 PDF 或提取嵌入的图像。

0 投票
2 回答
167 浏览

php - 数据库设计/结构——随着时间的推移收集数据

目前我正在为我正在创建的网站构建数据库。但是,我遇到了一个问题。我想记录用户每天登录的次数,然后能够在很长一段时间内跟踪该信息,例如 8 个月、一年、2 年等。

我现在能想到的唯一方法就是为一年中的每一天创建一个列/每天自动创建一个列。然而,这个想法对我来说似乎很愚蠢。我确信必须有更好的方法来做到这一点,我只是想不出一个。

有什么建议么?

谢谢,罗伯

0 投票
2 回答
219 浏览

javascript - 从托管在另一个站点上的表单收集数据

我们有许多客户同意在他们的网站上提交表单后向我们发送他们的表单数据。这可能吗?处理这个问题的最佳方法是什么?我们的站点采用冷融合构建,而客户站点各不相同。

我让客户端添加了一个脚本标签,以在他们的表单页面上包含来自我们服务器的 javascript 文件。还让他们向他们的表单按钮添加一个 onClick 事件,以便在提交他们的表单时调用这个 javascript。

这是 javascript 文件:

在提交表单时,调用 cpcshowElements 函数,格式化表单数据,将其附加到 XXX.net/... 的末尾并调用该 url。form_record.cfm 页面基本上会进行一些检查并将数据插入到表中。

这个过程确实有效,但并非始终如一。数据并不总是进入数据库。那就是问题所在。还有另一种不会丢失数据的方法吗?

0 投票
1 回答
439 浏览

iphone - iPhone 视频和数据采集

我正在开发用于自动视觉处理的 iPhone 应用程序。为了探索可能的算法,我需要同时捕获 iphone 视频和传感器数据。
我发现了很多很棒的应用程序可以在一段时间内记录传感器数据,但是,当我切换到 iPhone 摄像机时,它们会停止记录。如果我先开始视频,然后切换到数据记录应用程序,那么视频就会停止。
我需要的是一个可以记录来自任何传感器的数据的应用程序(特别是我正在寻找原始加速度计、原始陀螺仪、处理过的用户加速度和处理过的姿态四元数)。同时录制视频。有谁知道这样的应用程序是否存在或者我需要写一个吗?

谢谢,
马克斯

0 投票
4 回答
2530 浏览

java - Java - 从网站检索数据

我正在制作一个恢复彩票号码并将其显示在窗口中的应用程序。但是我不确定如何从网站上恢复数据和数字:

https://www.national-lottery.co.uk/player/p/results.ftl

你会怎么做呢?我以前做过这个,但是有一个网站返回了一个我可以使用的数据字符串。我更不确定如何做到这一点。任何建议都将不胜感激,并且该技术(如果有的话)将帮助我完成更多的项目!

0 投票
2 回答
1458 浏览

web-scraping - 从 Freebase 获取所有主题名称的列表

Freebase称,他们有 23,407,174 个主题。获取所有这些主题的 UI 友好名称(本质上是主题 JSON 的“文本”属性,单个主题 JSON 的示例在这里)的最简单方法是什么?我不需要任何其他元信息。