它可以为新的实时用例铺平道路

否则这些用例是不可能的，例如实时视频增强和游戏的快速身体跟踪。如果您以极低的功耗完成所有计算，并且不会拖慢U和GU，那么就更好了。借助我们最新的处理器QualommSnadragon移动平台，您可以直接在Qualomm人工智能(AI)引擎上运行推理工作负载旨在加速设备上AI的专用硬件和软件。QualommAI神经处理SDK是我们用于执行深度神经网络的软件加速运行时，可让您对QualommAI引擎进行编程。该引擎和SDK相结合，可让您从Snadragon的AI处理中挤出高达eraOS每秒万亿次计算，从而大幅加速您的设备上AI应用程序。加速度是多​​少？在本视频中，我们将向您展示我们为内部开发目的创建的参考基准测试应用程序，以帮助说明您使用Snadragon移动平台可以看到多少加速。



在云端或设备上进行推理？许多开发人员正在围绕图像分类、对象检测和人脸检测等功能编写移动和物联网应用程序。几年前，他们必须在云端进行训练和推理。但随着移动处理器功能的增强，开发人员开始将训练与推理分开。在云中训练机 墨西哥 WhatsApp 数据 器学习模型后，他们将推理工作负载转移到移动设备上。为什么应该在设备上而不是在云端运行机器学习模型？一方面，您不希望出现往返云端的延迟。此外，您可以将用户数据保留在设备上，这对于隐私来说是一个优势。而且您不希望您的应用程序受到网络连接的支配。简而言之，您可以将机器学习引入新行业，并为用户提供更好的移动体验。但设备上的处理需要高计算能力。否则，设备就会成为瓶颈。正如上面的视频所示，如果设备花费二分之一或三分之一秒的时间通过人工智能模型运行相机中的图像，那么您在实时应用程序中将不会获得很好的性能。







设备上的AI处理能力这就是为什么我们在Snadragon中设计了QualommAIEngine，该引擎能够在机器学习模型上提供令人惊叹的性能。该引擎在QualommexagonVeoreXensions(VX)和exagonensorAeleraor(A)上提供高容量的矩阵乘法。凭借足够的设备上处理能力，在Ineionv神经网络上每秒运行超过次推理，您的应用程序可以在短短几毫秒内以高置信度对数十个对象进行分类或检测。在下一个视频中，您将看到我们为内部开发创建的参考基准测试应用程序，该应用程序显示了QualommAIEngine执行推理以同时对多个对象进行分类。开始思考如何使用这种人工智能来改变行业并丰富机器人、物联网、VRAR和联网汽车应用等领域的生活。