案例研究 / Grant Radar

我们的产品·ETL

来自多方面的资金支持机会,
一个目录包含5种语言

Grant Radar是我们的资助项目监控服务。每日自动任务会收集来自欧盟门户和资助方网站的资讯,对其进行整理,然后以英语、波兰语、俄语、乌克兰语和德语生成可搜索的卡片。

ETL处理流程

从资助方页面到翻译后的卡片

每个阶段独立运行并记录自身操作,因此某个出问题的信息源不会影响其他阶段。

提取信息

计划调度程序每天华沙时间06:00启动运行。它会读取欧盟资金与招标门户的API以及Interreg、Vinnova和EEA等特定来源的适配器。由约300个欧盟来源组成的注册表决定哪些内容需要处理,且每次运行都会被记录下来。

规范化并去重

标题、金额、截止日期及符合条件的国家信息会被整合到同一模型中。来自两个来源的资助信息仅存储一次,而截止日期已过的申请则会被标记为已关闭。

分类

每项申请都会被赋予类型(研究、创新、文化、教育、社会、环境、健康)、状态以及资助方的国家信息,这些信息用于筛选和统计分析。

翻译

翻译任务会批量将新文本发送至我们的本地翻译服务,并将每种语言的翻译结果存储在原文旁边。该服务运行在我们的自有硬件上,因此资助申请文本不会被发送到云端大型语言模型。

加载与提供服务

相关卡片会被存入数据库,并出现在带有全文搜索功能以及可按类型、状态、国家、申请者类型和金额进行筛选的仪表板上。资助申请页面在服务器上生成,因此搜索引擎能够读取这些内容。

语言需跟随读者选择

资助项目的文本会以界面所设置的语言显示,没有单独的翻译按钮:切换语言即可切换对应的卡片内容。

已验证并规划完成

目前正在实施的内容与仍处于计划阶段的内容

跑步

从欧盟门户及适配器中每日收集数据、去重处理、关闭过期的申请、将其翻译成5种语言、生成公开的资助卡片,以及提供登录后的搜索和筛选功能。

尚未

在有专用适配器出现之前,许多注册表来源仅会被初步查询,而具有反机器人保护功能的来源则会被跳过。长篇描述和条款则会在另一轮较慢的翻译过程中处理。

常见问题

关于此案例的详情

不需要。这是我们的自有产品,因此我们可以详细说明其工作原理。此处不会显示任何客户数据或结果。
英语、波兰语、俄语、乌克兰语和德语。增加一种语言意味着要将其加入界面及翻译任务中。
成本与控制。每周有数千篇文本需要翻译,本地服务会将其存储在我们的硬件上。
是的。每个数据来源都是带有自身调度规则和日志的适配器,因此新增数据来源不会影响整个处理流程的其他部分。

需要这样的监控流程吗?

告诉我们您关注哪些信息源,以及您的团队使用哪些语言阅读。我们将在一个工作日内回复。