Blog | SolidUI

SolidUI社区-Snakemq通信源码分析

2023年7月2日 · 阅读需 7 分钟

背景

随着文本生成图像的语言模型兴起，SolidUI想帮人们快速构建可视化工具，可视化内容包括2D,3D,3D场景，从而快速构三维数据演示场景。SolidUI 是一个创新的项目，旨在将自然语言处理（NLP）与计算机图形学相结合，实现文生图功能。通过构建自研的文生图语言模型，SolidUI 利用 RLHF (Reinforcement Learning Human Feedback) 流程实现从文本描述到图形生成的过程。

项目地址: https://github.com/CloudOrc/SolidUI

项目镜像地址: https://gitee.com/CloudOrc/SolidUI

Snakemq介绍

SnakeMQ是一个轻量级的消息队列(MQ)系统,主要用于在Python中实现异步任务队列和消息传递。

SolidUI 模型代理模块（soliduimodelui）用到Snakemq , 涉及到内部通信时候，如果client 和server 不一一对应，通信就有问题，虽然日志不报错，但是不回返回结果，本文主要讲相关通信问题，为后续共建伙伴提供解决思路。

Snakemq作用

轻量级和易于使用 - SnakeMQ使用纯Python编写,无任何外部依赖,可以很容易地在任何Python项目中集成使用。
支持主流协议 - SnakeMQ实现了STOMP和AMQP等主流的MQ协议。
多种消息模型 - 支持发布-订阅、工作队列、请求-响应等多种消息模型。
持久化支持 - 支持将消息持久化到不同的后端,如Redis、MongoDB等。
高性能 - SnakeMQ针对Python进行了优化,单机可以处理上万消息每秒。
可扩展 - 可以水平扩展以实现集群,提高系统整体吞吐量。
多语言支持 - 除了Python SDK,还提供了NodeJS、Java等语言的SDK。

SolidUI 中 soliduimodelui模块，是模型代理API，需要Web和 Kernel 通信用到Snakemq

Snakemq 测试代码

Snakemq client.py

import snakemq.link
import snakemq.packeter
import snakemq.messaging
import snakemq.rpc
import time
import json
import logging

logging.basicConfig(format="[%(asctime)s] %(levelname)s [%(name)s:%(lineno)s] %(message)s")

logger = logging.getLogger(__name__)

logger.setLevel(logging.INFO)

console_handler = logging.StreamHandler()

console_handler.setLevel(logging.INFO)

logger.addHandler(console_handler)

logger.setLevel(logging.INFO)

fh = logging.FileHandler('app.log')

logger.addHandler(fh)

link = snakemq.link.Link()

packeter = snakemq.packeter.Packeter(link)

messaging = snakemq.messaging.Messaging("client", "", packeter)

connector = ("server", 8765)

link.add_connector(connector)

def on_connect(connector_id):

    logger.info(f"Connected to: {connector_id}")

link.on_connect.add(on_connect)

def on_disconnect(connector_id):

    logger.info(f"已断开: {connector_id}")

link.on_disconnect.add(on_disconnect)

def on_recv(conn, ident, message):

    logger.info(f"client接收到: {message.data}, 来自: {ident}")

messaging.on_message_recv.add(on_recv)

message = snakemq.message.Message(json.dumps({"type": "status", "value": "ready"}).encode("utf-8"), ttl=600)

messaging.send_message("server", message)

while True:

    link.loop()

    time.sleep(0.1)

Snakemq server.py

import snakemq.link
import snakemq.packeter
import snakemq.messaging
import snakemq.rpc
import time
import json
import logging

logging.basicConfig(format="[%(asctime)s] %(levelname)s [%(name)s:%(lineno)s] %(message)s")

logger = logging.getLogger(__name__)

logger.setLevel(logging.INFO)

console_handler = logging.StreamHandler()

console_handler.setLevel(logging.INFO)

logger.addHandler(console_handler)

logger.setLevel(logging.INFO)

fh = logging.FileHandler('app.log')

logger.addHandler(fh)

link = snakemq.link.Link()

packeter = snakemq.packeter.Packeter(link)

messaging = snakemq.messaging.Messaging("server", "", packeter)

link.add_listener(("0.0.0.0", 8765))

def on_recv(conn, ident, message):

    logger.info(f"server接收到: {message.data}, 来自: {ident}")

messaging.on_message_recv.add(on_recv)

message = snakemq.message.Message(json.dumps( {"type": "execute", "value": "abc"}).encode("utf-8"), ttl=600)

messaging.send_message("client", message)

# Main loop

while True:

    link.loop()

    time.sleep(0.1)

Dockerfile

FROM python:3.8
WORKDIR /opt/snaketmq-test

RUN pip install snakemq
RUN python -c "import snakemq; print(snakemq.__file__); print(dir(snakemq))"
COPY . .

CMD ["python", "server.py"]

Dockerfile build & run

docker build -t snaketmq-test . 

docker network create mynet

docker run -d --name server --network mynet  snaketmq-test

docker run --network mynet  snaketmq-test python client.py

Snakemq通信

注意：Snakemq 测试代码，因为容器内通信，ip addr 会涉及到多个ip ，虽然容器设置网段mynet ，但是 server link.add_listener(("0.0.0.0", 8765)) 这行代码

server: 表示SnakeMQ的服务器实例。
link: server中的link属性,表示网络连接管理器。
add_listener: 向link中添加一个监听器。
("0.0.0.0", 8765): 监听的地址和端口。"0.0.0.0"表示监听所有网卡地址,"8765"表示监听8765端口。 client connector = ("server", 8765) link.add_connector(connector) 这行代码
connector = ("server", 8765) : 创建一个元组connector,里面包含了SnakeMQ服务器的地址"server"和端口8765。
link.add_connector(connector): 调用link对象(这里应该是SnakeMQ的连接对象)的add_connector方法,传入参数connector,将上一步创建的连接信息添加到连接对象中。
综合来看,这行代码的作用就是创建一个连接元组,包含SnakeMQ服务器的地址和端口,然后将这个连接信息添加到SnakeMQ的连接对象中,以建立SnakeMQ的客户端连接。

结语

本文通过Snakemq 案例来解释SolidUI 内部通信，让大家明白配置地址时候ip 为什么这样设置，目的是为了一一对应，不是盲目设置localhost就能解决，为大家后续更好共建SolidUI提供思路。

如果成为贡献者

官方文档贡献。发现文档的不足、优化文档，持续更新文档等方式参与社区贡献。通过文档贡献，让开发者熟悉如何提交PR和真正参与到社区的建设。参考攻略：https://github.com/CloudOrc/SolidUI/discussions/54
代码贡献。我们梳理了社区中简单并且容易入门的的任务，非常适合新人做代码贡献。请查阅新手任务列表：https://github.com/CloudOrc/SolidUI/issues/12
内容贡献：发布SolidUI开源组件相关的内容，包括但不限于安装部署教程、使用经验、案例实践等，形式不限，请投稿给小助手。例如：https://github.com/CloudOrc/SolidUI/issues/10
社区答疑：积极在社区中进行答疑、分享技术、帮助开发者解决问题等；其他：积极参与社区活动、成为社区志愿者、帮助社区宣传、为社区发展提供有效建议等；

SolidUI AI生成可视化，开创性开源项目，版本0.1.0 功能讲解

2023年7月1日 · 阅读需 6 分钟

背景

https://github.com/CloudOrc/SolidUI

项目名字含义

SolidUI Solid表示立方几何，UI表示设计交互，代表多维生成设计。

登录页含义

登录页的含义，logo 用眼镜的形状，表示观察世界，背景那些线条是通过眼睛观看得出图形，深层意思表示创意生成世界。在这里插入图片描述

产品思维

“少就是多”

少就是多，意思是不断精简方案里的元素，只留下有价值的；其余不重要的，要么直接删掉，要么从界面里隐藏起来。对于那些不常用的操作，隐藏之后，即使用户多进行几步操作也没有关系。

0.1.0 版本内涵

这个版本作为第一个版本，设想作为应用框架，具有通用可视化框架能力，不因一些数据管理，BI等一些旧思维影响，只做应用框架，所以很多东西都被去除了，AI生成会彻底改变使用习惯。

功能列表

下面介绍下整个第一个版本功能列表。

数据源管理

显示数据：显示所有数据源，包括序号，数据源名称，数据源类型，用户，描述信息和操作按钮。
添加MySQL数据源：输入数据源名称，数据源驱动，URL，用户名，密码，备注后，可以* 成功添加MySQL数据源，并在数据源列表中显示。
添加Doris数据源：输入数据源名称，数据源驱动，URL，用户名，密码，备注后，可以成功添加Doris数据源，并在数据源列表中显示。
编辑数据源：可以编辑数据源的名称，数据源驱动，URL，用户名，密码，备注，并在数据源列表中查看编辑后的信息。
单行删除数据源：通过输入要删除的数据源名称，可以成功删除该数据源，并且该数据源不再显示在数据源列表中。
数据源过期：可以将选中的数据源设置为过期状态。

项目管理

添加项目：输入项目名称，项目描述，项目URL后，可以成功添加项目，并在项目列表中显示新增的项目信息。
查询项目列表：通过输入项目名称，可以查询并输出项目列表。
编辑项目名：可以编辑项目名称，并在项目列表中查看编辑后的项目信息。
删除项目：通过输入要删除的项目名称，可以成功删除该项目，并且该项目不再显示在项目列表中。
项目预览

设计页面

场景,增加，修改，删除，重命名。
页，增加，修改，删除，重命名。
添加图例：在指定场景和页下添加图例，并为其命名。创建成功后，所在页中显示对应的图例。
打开数据选择滑窗：在指定场景、页和图例下，打开数据选择滑窗。滑窗打开成功，显示数据源类型、数据源和SQL输入框。
选择数据源类型：选择数据源类型（如数据库），成功后显示与所选数据源类型相关的数据源选项。
选择数据源：选择特定的数据源（如MySQL数据库1），成功后可以输入SQL查询语句。
输入SQL查询语句：输入SQL查询语句并执行，柱形图根据查询返回的数据进行绘制。
保存页面：保存包括图例和关联数据设置在内的页面，以便后续查看和编辑。
预览场景：预览整个场景，按照场景和页的顺序查看已创建的图表。

在这里插入图片描述

背景​

Snakemq介绍​

Snakemq作用​

Snakemq 测试代码​

Snakemq通信​

结语​

如果成为贡献者​

背景​

项目名字含义​

登录页含义​

产品思维​

0.1.0 版本内涵​

功能列表​

数据源管理​

项目管理​

设计页面​

背景