AI发明专利申请的技术性浅析:AI算法与计算系统内部结构的特定技术关联
汤陈龙
目次:
一、AI发明专利申请的技术性维度
二、计算系统内部结构
三、AI算法与计算机系统内部结构之间的特定技术关联
随着AI(人工智能)技术的快速发展,AI算法已经广泛应用于众多领域,然而在专利申请过程中,AI发明专利申请频频遭遇专利保护客体层面的问题。究其本质,根据《中华人民共和国专利法(2020 年修正)》第二条第二款的规定,发明专利是指对产品、方法或者其改进所提出的新的技术方案,需求技术性;而AI算法通常被视为抽象算法或者数学方法,极易被认定为是智力活动规则,而排除在发明专利保护客体之外。因此,AI发明专利申请是否构成专利法意义上的技术方案(即受保护的专利客体),关键在于是否具备专利法意义上的技术性支撑。
一、AI发明专利申请的技术性维度
根据《专利审查指南2023》的相关解释,判断一项发明专利申请是否具备技术性,通常应综合考虑是否使用了自然规律、是否解决了技术问题、是否采用了技术手段,以及是否能够产生技术效果。在AI发明专利申请中,这种技术性支撑主要体现在以下两个方面:
1. AI算法结合具体应用场景
当AI算法与图像识别、语音识别、自动驾驶等具体应用场景相结合,存在应用场景特征,其本质是通过AI算法解决具体应用场景下存在的问题或者具体应用场景下AI算法存在的问题,这种AI算法和具体应用场景的结合明确了AI算法的应用边界,体现了AI算法的技术性。上述应用场景特征包括但不限于:算法或模型的结构、算法或模型所处理的训练数据、输入数据、输出数据、算法或模型的选择等任一方面与具体应用场景的结合。
2. AI算法与计算机系统内部结构之间存在特定技术关联
根据《专利审查指南2023》的规定“如果权利要求的解决方案涉及深度学习、分类、聚类等人工智能、大数据算法的改进,该算法与计算机系统的内部结构存在特定技术关联,能够解决如何提升硬件运算效率或执行效果的技术问题,包括减少数据存储量、减少数据传输量、提高硬件处理速度等,从而获得符合自然规律的计算机系统内部性能改进的技术效果,则该权利要求限定的解决方案属于专利法第二条第二款所述的技术方案”,如果AI算法与计算机系统的内部结构存在特定技术关联,能够解决如何提升硬件运算效率或执行效果的技术问题,获得符合自然规律的计算机系统内部性能改进的技术效果,则说明AI算法与计算平台或硬件结构之间建立了特定技术关联,从而AI算法不再是孤立的抽象规则,而是成为计算机系统内部性能优化的一部分,体现了AI算法的技术性。
本文主要从上述第二个方面(AI算法与计算机系统内部结构之间存在技术关联)探讨AI发明专利申请的技术性。
二、计算系统内部结构
基于《计算机组成原理》的定义,计算机系统是由硬件系统与软件系统共同构成的、可完成信息处理的计算平台;其中,硬件系统通常包括:处理器、存储器、输入/输出设备、总线等;软件系统通常包括:操作系统、中间件、编译器、应用程序等。因此,在传统意义上,计算机系统的内部结构主要是指:构成计算机系统基本运行能力的软硬件组件及其协同组织方式,包括:
硬件层面:处理器架构、内存与缓存体系结构、数据总线及通信路径,用于实现指令的获取、解码、执行与数据交互;
系统软件层面:操作系统调度机制、内存管理、输入输出控制、线程与进程管理,用于支撑用户程序的调用与资源分配;
软硬件接口机制:操作系统与底层硬件之间的交互方式,比如中断控制、寄存器访问、设备驱动程序等。
在传统意义上,计算机系统的内部结构更多的是通用计算平台在指令执行、资源调度、任务管理等方面的支撑机制,其主要目标在于确保程序在计算机体系结构下的稳定、高效运行。
随着AI算法广泛部署于芯片级平台、异构系统以及并行计算场景中,AI算法的运行越来越依赖于更复杂、更动态的计算机系统能力,因此在AI发明专利申请的保护客体判断中,计算机系统的内部结构这一术语的理解,也应在传统意义上进行相应扩展,包括但不限于以下方面:
异构计算架构,比如CPU、GPU、NPU协同运行时,AI任务在不同处理单元之间的划分、调度和数据交换机制;
片上互联结构(NoC)架构,比如支撑AI模型在芯片内部多个功能模块间进行高效通信,涉及数据路径选择、带宽控制和冲突避免策略等;
执行图与算子调度机制,比如AI模型的执行顺序由执行图(神经网络中算子和算子之间的依赖关系表示的图结构)决定,基于执行图,将算子分配到计算平台上的实际资源(比如线程、GPU单元)上运行,实现模型在计算机系统中的高效调度;
运行时资源管理机制,比如内存块复用、线程池管理、负载均衡等,用于提升运行效率与资源利用率;
执行路径裁剪机制,比如依据当前硬件资源状态,动态调整模型执行流程或算子精度,以实现算力适配与系统响应优化。
也就是说,在AI发明专利申请的保护客体判断中,计算机系统的内部结构不仅表现为支撑程序或算法运行的计算机系统组织与执行控制机制,还表现为为适应AI算法所发展出的动态资源调度与软硬件协同能力。
三、AI算法与计算机系统内部结构之间的特定技术关联
在AI发明专利申请中,AI算法与计算机系统内部结构之间的特定技术关联是指AI算法不再作为独立、抽象的数学逻辑存在,而是以特定方式嵌入或依赖于计算机系统的内部结构,从而实现提升系统执行效率、降低存储开销或减少资源消耗等目标,形成性能提升效果。
也就是说,在AI发明专利申请中,AI算法与计算机系统内部结构之间的特定技术关联需满足两个条件:
AI算法与计算机系统存在具体依赖或互动机制,例如AI算法适配计算机系统的并行处理能力、内存分配策略、算子执行架构等;
能够产生计算机系统和/或AI算法性能提升的效果,即AI算法与计算机系统的具体依赖或互动机制能够解决计算机系统和/或AI算法的性能问题,比如减少AI模型计算所需内存,提高AI任务处理并发度,降低AI任务的通信延迟等;也就是说,如果仅仅表述AI算法的运行依赖某种计算机硬件环境,而这种依赖关系没有解决计算机系统和/或AI算法性能提升的问题,则难以满足特定技术关联的判断标准。
下面对AI算法与计算机系统内部结构的特定技术关联类型进行列举,以便于理解。
1. 异构计算协同机制
AI算法在CPU、GPU、NPU等异构计算单元所涉及的任务划分、执行调度与资源适配,通过任务划分策略、协同调度策略、资源绑定策略等策略,达到提高任务并行度、降低任务运行时间、合理分摊计算负载等效果。
示例:一种用于DNN推理的计算任务分配方法:对于给定的DNN模型,分析前向传播阶段的不同网络层;根据各网络层的运算复杂度与数据量,确定各网络层适合的计算单元类型;将卷积操作相关的网络层运算调度至GPU执行,将控制逻辑相关的网络层运算调度至CPU执行,将矩阵乘法相关的网络层运算调度至NPU执行。
解析:上述示例中DNN模型的网络层任务与多种处理器类型(CPU、GPU、NPU)的协同架构密切相关,基于网络层的运算特性与计算单元类型(GPU、CPU、NPU)的适配关系,将网络层的任务合理分配至适配的计算单元进行执行,通过合理分配计算负载,提升了DNN模型的任务并行度、降低了运行时间,实现异构系统下的效率优化。
2. 内存与缓存动态管理机制
AI模型在训练/推理过程中动态申请、复用内存资源和/或缓存资源,通过内存块调度、MMU协同、内存回收机制等策略,达到减少内存占用、避免重复分配内存资源、提高内存访问效率等效果。
示例:一种神经网络模型的内存管理方法:获取神经网络模型对应的计算图,所述计算图中包括至少两个网络层算子;基于所述计算图,确定待分配至网络层算子的内存大小;从空闲内存块列表中的空闲内存块中获取与所述内存大小匹配的分配内存块,将所述分配内存块分配给所述网络层算子;所述空闲内存块列表用于存放已被分配但被解除占用后的空闲内存块。
解析:上述示例通过计算图驱动的内存分配机制,主动适配并管理计算机系统中的空闲内存块列表,从而在为网络层算子分配内存时不仅考虑了网络层算子实际的内存大小需求,还考虑了计算机系统当前可复用的内存状态,实现与计算机系统内部的资源调度机制紧密耦合,达到提升内存使用效率,间接加快模型推理/训练的效果。
3. 片上通信结构与数据传输优化机制
AI模型运行过程的数据经片上互联结构(比如NoC)进行传输,通过带宽调度、路径选择、冲突规避等策略,达到降低通信瓶颈、减少数据拥塞、提高片上模块间交互效率等效果。
示例:一种神经网络的数据通信方法:构建神经网络模型对应的计算图,所述计算图由多个算子节点及依赖关系构成;针对每对相邻算子节点,确定各对相邻算子节点的通信需求信息;根据通信需求信息与NoC的拓扑结构、路径带宽以及当前负载状态,生成算子对之间的数据传输路径映射方案,用于算子之间的数据传输调度。
解析:上述示例利用神经网络模型的计算图,确定算子节点之间的通信需求关系,将算子通信需求与NoC路由拓扑、带宽状态等进行适配计算,决定路径分配,实现了路径优化与冲突规避,提升了片上数据传输效率,减少因通信瓶颈带来的算子执行等待,提升了执行效率。
4. 执行图与算子调度机制
AI模型被转化为DAG(有向无环图),依据依赖关系并行安排执行顺序,通过线程池控制、子图融合、计算图驱动等策略,达到提升执行并行度、避免资源闲置等效果。
示例:一种用于图神经网络的算子调度方法:将GNN模型转化为执行图,执行图中每个节点表示算子,每条边表示依赖关系;遍历执行图,识别满足无依赖条件的并行执行的子图集合;基于可用线程池资源,将各个子图任务调度至不同线程中并发执行。
解析:上述示例中AI模型的算子执行并非静态或单线程执行,而是由AI模型结构(执行图)和系统资源状态(可用线程池资源)共同决定,依赖于计算机系统内部的线程池资源调度,将可并行执行的各子图调度至不同线程并发执行,实现了计算图驱动结合系统资源配合的过程,达到了避免算子串行阻塞、提升整体并发度、减少资源闲置与等待时间,从而加快模型运行速度的效果。
AI模型被转化为DAG(有向无环图),依据依赖关系并行安排执行顺序,通过线程池控制、子图融合、计算图驱动等策略,达到提升执行并行度、避免资源闲置等效果。
5. 运行时资源自适应调度机制
AI算法训练或预测使用时,根据运行负载、模型结构或数据规模,动态调节资源配置,通过训练批次感知、线程数调整、执行路径切换等策略,实现模型训练或预测时的资源按需分配,提升运行效率与系统响应速度等效果。
示例:一种深度神经网络模型的训练方法,包括:当训练数据的大小发生改变时,针对改变后的训练数据,分别计算所述改变后的训练数据在预设的候选训练方案中的训练耗时;从预设的候选训练方案中选取训练耗时最小的训练方案作为所述改变后的训练数据的最佳训练方案,所述候选训练方案包括单处理器训练方案和基于数据并行的多处理器训练方案;将所述改变后的训练数据在所述最佳训练方案中进行模型训练。
解析:上述示例中不同训练方案(单处理器训练方案和多处理器训练方案)代表不同的系统资源配置,根据训练数据的规模预测不同训练方案的执行效率,动态选择最佳训练方案,而模型的训练方案决定了处理器分配模式,体现了对底层资源的动态控制,也表示了计算机系统对于AI模型训练的运行方式的改变,达到了减少模型训练时长、提高处理器使用效率、支持不同规模训练数据下的计算资源适配的效果。上述示例虽然提及单处理器和基于数据并行的多处理器,但上述示例本质不在于异构架构间的不同计算单元协同执行,而在于AI模型训练时根据训练数据规模在不同训练策略之间切换,因此归类为运行时资源自适应调度机制。
6. 精度裁剪与执行路径调优机制
AI算法训练或预测使用时,根据硬件负载或功耗约束,自动选择执行路径、调整算子精度,通过控制接口、裁剪控制逻辑、功耗感知等策略,达到降低算力消耗、提升执行效率等效果。
示例:一种基于运行负载的AI模型推理方法:在AI模型推理过程中,实时监测GPU的负载状态;若检测GPU负载达到上限,将AI模型中部分算子的精度由第一精度降低至第二精度;若检测GPU负载未达到上限,保持算子的精度为第一精度。
解析:上述示例中算子精度切换依赖于GPU的负载状态,算子精度切换由GPU负载达到上限触发,体现了AI模型与GPU的软硬件联动,通过动态降低AI模型的算子精度,以降低算子执行功耗,避免GPU过载,提高系统响应能力。
其中,运行时资源自适应调度机制的分类主要强调AI模型侧的运行/训练时数据、规模等条件,实现对系统资源进行按需调度;精度裁剪与执行路径调优机制的分类主要强调计算设备侧的功耗、负载等条件,实现动态调整算法执行路径或精度策略;区别在于:前者由AI任务的输入特征驱动,后者由计算机系统状态驱动。
7. 模型编译与硬件适配机制
通过编译框架将高层AI模型转换为适配目标硬件的中间表达/指令流,通过算子模板库、底层指令映射、目标硬件特征识别等策略,提升执行效率、缩短编译-部署链路等效果。
示例:一种用于AI模型部署的编译方法,包括:获取待部署的神经网络模型;根据目标芯片支持的算子类型,选择对应的算子实现版本;将神经网络模型中的网络层转换为目标芯片支持的硬件指令格式;输出适配目标芯片的可执行代码或部署包。
解析:上述示例中,AI模型部署时的结构和算子实现不再是通用格式,而是依赖于目标芯片支持的算子类型和硬件指令格式,本质上是进行AI模型结构到计算机系统底层指令的转换与适配,构成对计算系统内部结构的依赖与互动,达到提升模型部署效率、降低部署门槛等效果。
可以看出,AI算法与计算机系统内部结构之间的特定技术关联类型,覆盖了从AI任务执行分配、资源动态调度再到模型部署等多个层面,反映了AI算法在计算机系统中的运行机制与性能优化路径。需要注意的是,上述列举仅为AI算法与计算机系统内部结构的部分特定技术关联类型,这些特定技术关联类型的共同特点在于:AI算法不再孤立存在于抽象数学模型层面,而是依赖计算机系统的结构特征、资源状态等,形成动态、具体的交互机制,从而解决计算机系统和/或AI算法的问题,获得技术改进效果。
因此,在撰写AI发明专利申请时,如果希望通过AI算法与计算机系统内部结构之间的特定技术性关联来体现技术性,应注重AI算法与计算机系统内部结构之间的具体协同机制及其性能提升效果,在强调算法改进的基础上,还应强调AI算法如何通过与计算机系统内部结构进行特定技术关联,以获得性能优化效果,从而使得AI算法突破抽象算法或数学方法的范畴,成为与计算机系统的内部结构紧密耦合的技术方案,纳入可保护的专利客体。

