我们的产品·ETL
来自多方面的资金支持机会,
一个目录包含5种语言
Grant Radar是我们的资助项目监控服务。每日自动任务会收集来自欧盟门户和资助方网站的资讯,对其进行整理,然后以英语、波兰语、俄语、乌克兰语和德语生成可搜索的卡片。
ETL处理流程
从资助方页面到翻译后的卡片
每个阶段独立运行并记录自身操作,因此某个出问题的信息源不会影响其他阶段。
提取信息
计划调度程序每天华沙时间06:00启动运行。它会读取欧盟资金与招标门户的API以及Interreg、Vinnova和EEA等特定来源的适配器。由约300个欧盟来源组成的注册表决定哪些内容需要处理,且每次运行都会被记录下来。
规范化并去重
标题、金额、截止日期及符合条件的国家信息会被整合到同一模型中。来自两个来源的资助信息仅存储一次,而截止日期已过的申请则会被标记为已关闭。
分类
每项申请都会被赋予类型(研究、创新、文化、教育、社会、环境、健康)、状态以及资助方的国家信息,这些信息用于筛选和统计分析。
翻译
翻译任务会批量将新文本发送至我们的本地翻译服务,并将每种语言的翻译结果存储在原文旁边。该服务运行在我们的自有硬件上,因此资助申请文本不会被发送到云端大型语言模型。
加载与提供服务
相关卡片会被存入数据库,并出现在带有全文搜索功能以及可按类型、状态、国家、申请者类型和金额进行筛选的仪表板上。资助申请页面在服务器上生成,因此搜索引擎能够读取这些内容。
语言需跟随读者选择
资助项目的文本会以界面所设置的语言显示,没有单独的翻译按钮:切换语言即可切换对应的卡片内容。
已验证并规划完成
目前正在实施的内容与仍处于计划阶段的内容
跑步
从欧盟门户及适配器中每日收集数据、去重处理、关闭过期的申请、将其翻译成5种语言、生成公开的资助卡片,以及提供登录后的搜索和筛选功能。
尚未
在有专用适配器出现之前,许多注册表来源仅会被初步查询,而具有反机器人保护功能的来源则会被跳过。长篇描述和条款则会在另一轮较慢的翻译过程中处理。
常见问题
关于此案例的详情
不需要。这是我们的自有产品,因此我们可以详细说明其工作原理。此处不会显示任何客户数据或结果。
英语、波兰语、俄语、乌克兰语和德语。增加一种语言意味着要将其加入界面及翻译任务中。
成本与控制。每周有数千篇文本需要翻译,本地服务会将其存储在我们的硬件上。
是的。每个数据来源都是带有自身调度规则和日志的适配器,因此新增数据来源不会影响整个处理流程的其他部分。