[发明专利]对自主系统进行安全且有效的超控的系统和方法

权利要求书

1.一种对自主系统进行安全且有效的超控的系统，所述系统包括：

非暂时性计算机可读介质和一个或更多个处理器，所述非暂时性计算机可读介质上编码有可执行指令，使得当执行所述可执行指令时，所述一个或更多个处理器执行以下操作：

提取表示情境的多个语义概念；

将所述自主系统采取的动作与在所述情境中采取所述动作时激活的语义概念集合相关联；

使用所述自主系统的性能的任务特定奖励函数，测量在所述情境中采取的所述动作的结果并生成奖励度量；

将表示所述情境的所述多个语义概念连同在所述情境中采取的所述动作和所述奖励度量一起存储为记忆；

基于所述记忆的回忆生成前瞻性模拟结果；

基于所述前瞻性模拟结果，确定表示所述自主系统在所述情境中的胜任力的胜任力度量和表示所述自主系统在所述情境中的经验的经验度量中的至少一者；

当所述胜任力度量和所述经验度量中的至少一者高于建立的最小允许值时，维持对所述自主系统的胜任力操作控制；以及

当所述胜任力度量和所述经验度量中的至少一者低于所述建立的最小允许值时，生成警报。

2.根据权利要求1所述的系统，其中，所述一个或更多个处理器还执行以下操作：确定经验深度估计结果，所述经验深度估计结果表示在以任务目标为条件的已学习潜在空间中的任何点处的访问密度。

3.根据权利要求1所述的系统，其中，所述胜任力度量是基于受试者-操作者特性(ROC)曲线的胜任力度量。

4.根据权利要求1所述的系统，其中，所述一个或更多个处理器还执行以下操作：当所述胜任力度量和所述经验度量中的至少一者低于所述建立的最小允许值时，启动将对所述自主系统的控制移交给人类用户。

5.根据权利要求1所述的系统，其中，所述一个或更多个处理器还执行以下操作：当所述胜任力度量和所述经验度量中的至少一者低于所述建立的最小允许值时，启动将控制从人类用户移交给辅助系统。

6.根据权利要求1所述的系统，其中，所述自主系统是自主驾驶系统。

7.一种对自主系统进行安全且有效的超控的计算机实现的方法，所述方法包括以下动作：

使一个或更多个处理器执行在非暂时性计算机可读介质上编码的指令，使得在执行时，所述一个或更多个处理器执行以下操作：

提取表示情境的多个语义概念；

将所述自主系统采取的动作与在所述情境中采取所述动作时激活的语义概念集合相关联；

使用所述自主系统的性能的任务特定奖励函数，测量在所述情境中采取的所述动作的结果并生成奖励度量；

将表示所述情境的所述多个语义概念连同在所述情境中采取的所述动作和所述奖励度量一起存储为记忆；

基于所述记忆的回忆生成前瞻性模拟结果；

基于所述前瞻性模拟结果，确定表示所述自主系统在所述情境中的胜任力的胜任力度量和表示所述自主系统在所述情境中的经验的经验度量中的至少一者；

当所述胜任力度量和所述经验度量中的至少一者高于建立的最小允许值时，维持对所述自主系统的胜任力操作控制；以及

当所述胜任力度量和所述经验度量中的至少一者低于所述建立的最小允许值时，生成警报。

8.根据权利要求7所述的方法，其中，所述一个或更多个处理器还执行以下操作：确定经验深度估计结果，所述经验深度估计结果表示在以任务目标为条件的已学习潜在空间中的任何点处的访问密度。

9.根据权利要求7所述的方法，其中，所述胜任力度量是基于受试者-操作者特性(ROC)曲线的胜任力度量。

10.根据权利要求7所述的方法，其中，所述一个或更多个处理器还执行以下操作：当所述胜任力度量和所述经验度量中的至少一者低于所述建立的最小允许值时，启动将对所述自主系统的控制移交给用户。