![[具身智能-610]：Linux EGL Preview（嵌入式相机本地 HDMI 预览，适配你 RDK X5 + TROS/mipi_cam 场景）](http://pic.xiahunao.cn/yaotu/[具身智能-610]：Linux EGL Preview（嵌入式相机本地 HDMI 预览，适配你 RDK X5 + TROS/mipi_cam 场景）)
一、基础概念EGL Embedded-System Graphics Library作用作为 OpenGL ES 和底层显示硬件Framebuffer/Drm/KMS的桥梁无需 X11 窗口系统直接渲染画面到屏幕。✅ EGL Preview 优势嵌入式核心价值无 X Server 依赖纯Linux console 环境就能跑节省内存、降低 CPU 占用支持 YUV (NV12) 硬件渲染适配MIPI相机原生输出格式支持 DMA-BUF 零拷贝和地平线 VIO/hobot_shm 共享内存RDK X5 平台官方推荐HDMI 本地预览方案替代 websocket 网页预览。对比Websocket网络推流适合远程浏览器查看EGL Preview本地 HDMI 显示器实时渲染低延迟。二、两条实现路线RDK X5 平台路线 1地平线原生方案优先推荐适配 TROS mipi_cam地平线 SDK 内置两套显示方案hobot_vio Display 模块底层 VIO 链路 直接接收 MIPI 相机 NV12 图像EGL 渲染输出 HDMI不经过 ROS2延迟最低ROS2 订阅话题 EGL 渲染程序订阅/image_combine_rawNV12 图像话题EGL 渲染到 HDMI 屏幕。⚠️前置硬性条件对应你当前故障相机必须先正常初始化I2C 通信恢复mipi_cam成功发布图像话题/image_combine_raw。当前你 I2C 超时、相机无法启动即使编译好 EGL 预览程序也没有图像数据可以渲染。路线 2GStreamer EGL 简易预览快速验证如果相机正常出流后可以一行命令拉起 EGL 预览纯命令行bash运行# 若你构建gst接收ROS图像链路或直接V4L2采集 gst-launch-1.0 v4l2src device/dev/video0 ! video/x-raw,formatNV12 ! videoconvert ! eglglessink syncfalseeglglessink GStreamer内置 EGL 渲染后端不需要桌面系统。三、EGL Preview 标准开发流程C 代码逻辑概要针对 NV12 相机图像RDK mipi_cam 输出格式获取 EGL DisplayDRM/KMS 平台EGL_DEFAULT_DISPLAY选择 EGL 配置、创建窗口表面HDMI 输出窗口创建 OpenGL ES 2.0 上下文编写NV12 转 RGB 着色器相机输出标准 NV12接收图像帧内存 / DMA-BUF→ 创建 EGLImage 纹理调用 gl 渲染eglSwapBuffers()输出到屏幕循环释放资源持续渲染下一帧关键难点嵌入式平台 NV12 双平面纹理采样零拷贝需要平台支持EGL_EXT_image_dma_buf_import扩展RDK X5 支持。四、和现有工程结合的可行方案当前工程链路MIPI相机 → mipi_cam → /image_combine_raw(NV12) → hobot_codec(JPEG/H264) → websocket方案 A本地 HDMI 预览新增 EGL 渲染节点新增一个 ROS2 节点 订阅/image_combine_raw→ EGL OpenGL ES 渲染 → HDMI 显示器输出 同时保留原有 websocket 远程预览两套预览并行运行。方案 B替换 websocket底层 VIO 直出 EGL不经过 ROS2直接使用地平线 VIO 采集相机图像 Display EGL 送显延迟最低 缺点不方便叠加 ROS 算法推理框。方案 CGStreamer 桥接 ROS2 话题 EGL 渲染借助ros2_gstreamer插件订阅图像话题交给eglglessink渲染不用写 C 图形代码。五、重要问题提醒关联你前面的故障❗优先级顺序先修复 I2C 超时保证 mipi_cam 能够正常发布/image_combine_raw图像话题当前阻塞点图像话题稳定输出后再部署 EGL 本地预览程序不要颠倒顺序没有图像源EGL 预览程序只能黑屏六、常见踩坑清单RDK X5 EGL无法打开 EGL display原因使用 ssh 远程运行没有权限访问 DRM 设备解决export XDG_SESSION_TYPEdrm使用 root 权限或直接本地串口 / HDMI 终端运行程序。NV12 画面偏色、花屏着色器 YUV→RGB 转换矩阵错误或 UV 平面纹理绑定顺序错误。高 CPU 占用尽量使用 DMA-BUF 零拷贝避免内存拷贝不要每次渲染都内存 memcpy 图像。黑屏无画面确认帧率匹配、图像分辨率和纹理尺寸一致检查 eglSwapBuffers 调用。七、你可以补充信息我给你对应落地代码目标需要独立 C ROS2 EGL 预览节点源码还是 GStreamer 命令行方案硬件是否已经连接 HDMI 显示器需求是否需要在画面叠加检测框、文字渲染
一、基础概念EGL Embedded-System Graphics Library作用作为 OpenGL ES 和底层显示硬件Framebuffer/Drm/KMS的桥梁无需 X11 窗口系统直接渲染画面到屏幕。✅ EGL Preview 优势嵌入式核心价值无 X Server 依赖纯Linux console 环境就能跑节省内存、降低 CPU 占用支持 YUV (NV12) 硬件渲染适配MIPI相机原生输出格式支持 DMA-BUF 零拷贝和地平线 VIO/hobot_shm 共享内存RDK X5 平台官方推荐HDMI 本地预览方案替代 websocket 网页预览。对比Websocket网络推流适合远程浏览器查看EGL Preview本地 HDMI 显示器实时渲染低延迟。二、两条实现路线RDK X5 平台路线 1地平线原生方案优先推荐适配 TROS mipi_cam地平线 SDK 内置两套显示方案hobot_vio Display 模块底层 VIO 链路 直接接收 MIPI 相机 NV12 图像EGL 渲染输出 HDMI不经过 ROS2延迟最低ROS2 订阅话题 EGL 渲染程序订阅/image_combine_rawNV12 图像话题EGL 渲染到 HDMI 屏幕。⚠️前置硬性条件对应你当前故障相机必须先正常初始化I2C 通信恢复mipi_cam成功发布图像话题/image_combine_raw。当前你 I2C 超时、相机无法启动即使编译好 EGL 预览程序也没有图像数据可以渲染。路线 2GStreamer EGL 简易预览快速验证如果相机正常出流后可以一行命令拉起 EGL 预览纯命令行bash运行# 若你构建gst接收ROS图像链路或直接V4L2采集 gst-launch-1.0 v4l2src device/dev/video0 ! video/x-raw,formatNV12 ! videoconvert ! eglglessink syncfalseeglglessink GStreamer内置 EGL 渲染后端不需要桌面系统。三、EGL Preview 标准开发流程C 代码逻辑概要针对 NV12 相机图像RDK mipi_cam 输出格式获取 EGL DisplayDRM/KMS 平台EGL_DEFAULT_DISPLAY选择 EGL 配置、创建窗口表面HDMI 输出窗口创建 OpenGL ES 2.0 上下文编写NV12 转 RGB 着色器相机输出标准 NV12接收图像帧内存 / DMA-BUF→ 创建 EGLImage 纹理调用 gl 渲染eglSwapBuffers()输出到屏幕循环释放资源持续渲染下一帧关键难点嵌入式平台 NV12 双平面纹理采样零拷贝需要平台支持EGL_EXT_image_dma_buf_import扩展RDK X5 支持。四、和现有工程结合的可行方案当前工程链路MIPI相机 → mipi_cam → /image_combine_raw(NV12) → hobot_codec(JPEG/H264) → websocket方案 A本地 HDMI 预览新增 EGL 渲染节点新增一个 ROS2 节点 订阅/image_combine_raw→ EGL OpenGL ES 渲染 → HDMI 显示器输出 同时保留原有 websocket 远程预览两套预览并行运行。方案 B替换 websocket底层 VIO 直出 EGL不经过 ROS2直接使用地平线 VIO 采集相机图像 Display EGL 送显延迟最低 缺点不方便叠加 ROS 算法推理框。方案 CGStreamer 桥接 ROS2 话题 EGL 渲染借助ros2_gstreamer插件订阅图像话题交给eglglessink渲染不用写 C 图形代码。五、重要问题提醒关联你前面的故障❗优先级顺序先修复 I2C 超时保证 mipi_cam 能够正常发布/image_combine_raw图像话题当前阻塞点图像话题稳定输出后再部署 EGL 本地预览程序不要颠倒顺序没有图像源EGL 预览程序只能黑屏六、常见踩坑清单RDK X5 EGL无法打开 EGL display原因使用 ssh 远程运行没有权限访问 DRM 设备解决export XDG_SESSION_TYPEdrm使用 root 权限或直接本地串口 / HDMI 终端运行程序。NV12 画面偏色、花屏着色器 YUV→RGB 转换矩阵错误或 UV 平面纹理绑定顺序错误。高 CPU 占用尽量使用 DMA-BUF 零拷贝避免内存拷贝不要每次渲染都内存 memcpy 图像。黑屏无画面确认帧率匹配、图像分辨率和纹理尺寸一致检查 eglSwapBuffers 调用。七、你可以补充信息我给你对应落地代码目标需要独立 C ROS2 EGL 预览节点源码还是 GStreamer 命令行方案硬件是否已经连接 HDMI 显示器需求是否需要在画面叠加检测框、文字渲染
