AI 受治理语义基础设施
EN · 中文
我们的理念
-
AI 正从“回答问题”走向“采取行动”。
随着 AI 系统逐渐具备推理、规划、调用工具以及发起具有实际后果的行动的能力，一个更深层的问题随之出现：
我们如何确保 AI 系统始终受到人类所设定的含义、权限与边界的约束？
我们相信，智能可以为行动提供依据，但权限必须被明确授予。
-
智能、推理能力和技术执行能力，并不等同于含义、许可、权限或问责。
我们相信，具备行动能力，并不意味着拥有采取行动的权限。
-
过去：
“AI 是否给出了有用的答案？”现在：
“这项行动是否真正获得了授权？”在金融、医疗、企业系统和关键基础设施等高风险环境中，错误或未经授权的行动可能造成重大的财务、法律、运营或人身后果。
我们相信，具有重大后果的 AI 行动应在执行前受到治理，而不应仅在事后接受审查。
-
LISSAI 正在开发基础设施，帮助组织治理具有重大影响的 AI 系统中的上下文、含义、权限与约束，同时保留问责所需的溯源信息与证据。
我们的工作并非仅依赖 AI 模型在运行过程中动态决定这些条件，而是探索如何在执行推理的模型之外，建立并治理关键的运营含义与权限。
我们相信，人类编写的上下文、含义与权限，应当在执行推理的模型之外被建立并受到治理。
-
LISSAI 正被开发为一项多年期的架构与研究计划，而不是传统的 AI 应用。
在进行大规模商业化之前，我们有意优先推进基础架构、验证、知识产权保护，以及高风险部署所需的各项条件。
我们相信，AI 的行动在操作层面可能是有效的，但在语义上却可能是错误的——而基础设施必须围绕这一差异进行设计。
-
我们不是什么 »