android例子onnx runtime
本教程系列将涵盖android的主要用例，这是一个 AI 驱动的语义搜索平台。该系列的每章都有相关代码，可也可以在colab 中使用。
colab 地址
该onnx runtime 时提供了一个通用的序列化格式的机器学习模型。ONNX 支持多种不同的平台/语言，并具有内置功能以帮助减少推理时间。
PyTorch 为将 Torch 模型导出到 ONNX 提供了强大的支持。这使得可以将 Hugging Face Transformer 和/或其他下游模型直接导出到 ONNX。
ONNX 为使用多种语言和平台的直接推理开辟了道路。例如，模型可以直接在 Android 上运行以限制发送到第三方服务的数据。ONNX 是一项令人兴奋的开发项目，前景广阔。微软还发布了Hummingbird，它可以将传统模型（sklearn、决策树、逻辑回归 …）导出到 ONNX。
本文将介绍如何使用 txtai 将模型导出到 ONNX。然后这些模型将直接在 Python、JavaScript、Java 和 Rust 中运行。目前，txtai 通过它的 API 支持所有这些语言，这仍然是推荐的方法。
ONNX 管道加载模型，将图形转换为 ONNX 并返回。请注意，没有提供输出文件，在这种情况下，ONNX 模型作为字节数组返回。如果提供了输出文件，则此方法返回输出路径。 android学习教程

版权声明：本站内容均来自互联网，仅供演示用，请勿用于商业和其他非法用途。如果侵犯了您的权益请与我们联系QQ:729038198，我们将在24小时内删除。