日志构建、收集、存储与可视化展示实例
基本信息如果要看具体的功能点说明的话,请直接跳到功能点章节。
ClickHouse数据库中收集到的日志导出为csv后已放在box上,下载地址如下。
https://box.nju.edu.cn/f/f1b6dd967896407da751/
最后可以在对应的Flink环境上运行的jar包的地址如下。
https://box.nju.edu.cn/f/fbf09bfa6f63446fb2f9/
环境搭建承载平台本次使用的计算平台均位于华为云上。整体架构图如下所示。
本地管理员所有对远端的交互均透过特定工具在内网进行。华为云服务器间内网速度默认为1Gbps,本地到华为云服务器的公网IP均为按量付费的100M宽带。应用服务器IP后期为 10.168.0.3。
上图左侧的SpringBoot容器数量仅供示意。请以下面的docker ps -a为准。
微服务服务器8C16G的华为云HECS。使用六一八特惠购买1年,全程保持开机。
该服务器的内网IP地址为 192.168.0.3。
后期改用临时按量付费的ECS,配置也为8核16G,IP地址 10.168.0.3。运行环境细节不变。
日志分 ...
八块腹肌显卡再就业故事
上车需谨慎众所周知,前段时间,大批量的显卡被送去锻炼身体了。这段时间内,显卡的价格可以说是水涨船高。潮水退去,显卡价格开始雪崩,然而,似乎仍然有一股力量,在强而有力地给价格基本盘托底。YDJSIR很显然也会在低潮地时候,搞点健身房退役卡来比划比划。
随着DAG大小的上升,一批又一批的卡和锻炼无缘,只能退下。
50HX除非你就跑整数运算和双精度浮点,不然不要碰50HX!!!
YDJSIR为了抢首发,竟然花了700买这破玩意,属于是亏到家了。2022年11月5日,50HX价格基本在550包邮左右,主要是影驰和微星的卡。YDJSIR买的是微星的版本,因为它太美丽啦!这是微星2080Ti的皮,放着就好看。
底
中
顶
PCB板子都是一样的,不过只有焊盘没有锡。
P106吧吧主放出了526版本的对全系列矿卡的支持。不过,50HX改了也是废物。下面是两张GPU-Z图。50HX不能和40HX那样补电容就能补齐PCIE x16通道,而只能到x8通道。据称是缺了电阻。但在其极弱的单精度浮点面前,补不补电容又有什么区别呢?
正常驱动
魔改驱动
让我们来看看它惨不 ...
《虚忆定格》——江门市第一中学的记忆
虚忆定格(Frozen Memories)已上线Steam!
商店页面: https://store.steampowered.com/app/1224840/_/?l=schinese
制作组官网:http://skt-studio.com/
因果缘起终有一天,YDJSIR也成为了AVG原型校友(虽然不完全,作品里一张现江门市第一中学景贤学校跃进路校区的图都没有,景贤来的人也都是黑影),啊哈哈哈哈。YDJSIR挺欣赏这画风的。虽然不大精致,缺乏细节,而且风格不大统一(个人看法),但是整体看起来还挺舒服的。
在大学,YDJSIR基本上已经不再提起初中时光,但《虚忆定格》(原型江门市第一中学)的发布改变了这一切。严格来说,这部作品带有一定的玄幻色彩,并不是单纯的恋爱游戏(去掉恋爱对于世界观和剧情发展可以没有任何影响),YDJSIR更愿意称之为AVG而非gal。不过, 仍然在YDJSIR的接受范围内。一年前就开始发布先行体验版的它让YDJSIR等得好辛苦,发售当天(2022年3月12日)YDJSIR毫不犹豫地将它纳入仓库中。
这游戏也不贵,欢迎入坑!
内容回顾浮光掠影
由于本游戏是单线 ...
2022春数据集成环境搭建
~承载平台承载平台是YDJSIR的安装着Windows10 教育版的台式机上的HyperV虚拟机。该虚拟机利用虚拟交换机桥接到路由器上,而后连到南大校内网。
性能方面,分配了QQBZ(i9 9900 ES版,以7核心超线程状态运行)的四个物理核心,宿主机内存双通道32GB,8GB静态全量分配给虚拟机。
为了方便团队协作,YDJSIR在路由器(网件R8000P)上部署了特定工具。队友可以通过特定工具的方式连到YDJSIR的宿舍内网,访问上述虚拟机和YDJSIR的NAS和软路由等服务。
所有对服务器的访问均通过SSH进行,该虚拟机不直接映射任何端口到校内网。
环境一览软件版本1234567891011121314.├── flink-1.13.6-bin-scala_2.11.tgz├── hadoop-2.7.4.tar.gz├── install.sh # 宝塔面板├── kafka_2.11-2.1.1.tgz├── scala-2.11.12.rpm # 独立的Scala├── spark-2.4.8-bin-without-hadoop.tgz # 有Scala没Hadoop├ ...
技术团队合作的思考
~作为一个软件工程专业的学生和技术爱好者,在技术团队中的合作经历显然是不少的。为什么这里说的是技术团队,而不是软件团队或开发团队呢?因为技术团队可以是运维,可以是数据分析,可能是行情研究或者是做综述,可能是顾问,当然也可以是实际软件开发。下面提到的例子显然和软硬件有关。YDJSIR不在此处记录那些YDJSIR全程与技术无关的记录。下面的记录按参与时间降序排。
竞赛项目类第17届(2022)花旗杯队友都是神仙,对任务从不挑剔,使命必达。YDJSIR甚至怀疑YDJSIR是不是因为这样的经历过度简化了团队合作的难度。作为Team Leader,YDJSIR过得太舒服了。这也是第一次对接一个比较真实的外部需求(需求方不是软件专业人员)。不过这么好的甲方估计也没处找了。
课程项目类众包平台——《软件工程与计算Ⅲ》 负责人迭代三在做了在做了。
迭代二由于花旗杯,迭代二剩下来的时间其实也就两个星期。四个人基本都在推。前端的技术实力实在有限,为传参问题卡了很久,最后YDJSIR上手解决。最后,YDJSIR和她一起搞前端,迭代一中的那个后端负责后端善后,YDJSIR连续两天4点睡8点起,疼。
迭代一YD ...
CICD with Jenkins & GitLab
DevOps!虽然很显然只有Jenkins和GitLab是还远远算不上完整的DevOps的,但至少YDJSIR离DevOps进了一步。
由于花旗杯的契机,YDJSIR开始认真研究Jenkins。虽然说也不能研究得多么深入,但总归是有些尝试。
软件工程与计算三环境说明该容器运行在一台腾讯轻量云服务器(上海,4C4G8M)的Docker容器中,通过Agent的方式,控制另一台腾讯轻量服务器(上海,4C4G8M)进行代码拉取、自动构建打包测试与发布等工作。
Jenkins通过南大Git上的镜像仓库获得WebHook推送++代码,相关操作均按照文档进行。前/后端和Python服务在生产环境中均运行在容器内。目前设置上以master分支为生产环境,仅该分支的推送会触发构建。构建状态会用GitLab Connection推回给南大Git。日常开发主分支是develop。
部署图如下。
仓库列表和说明如下。
课程仓库
南大Git镜像
备注
http://172.29.4.49/MXYZyyds/backend-mxyzyyds
https://git.nju.edu.cn/YDJSIR ...
图像处理实践
缩放旋转滤镜篇
因为有跨域请求的问题,双击打开会出问题,请不要双击打开文件。代码地址如下:
https://github.com/YDJSIR-NJU/NJUSE-21-Frontend/tree/main/OnlinePS
实现功能本代码实现了以下所有功能。
滤镜功能,可以选择一组预设滤镜;
手动更改属性(例如亮度,对比度,饱和度)以获得所需的结果;
裁剪、旋转和缩放图像;
图像风格迁移;
代码说明本项目全部使用了本地缓存的CSS和JavaScript,没有使用Node.js或CDN。
直接双击打开index.html会有跨域问题。请保证访问时网页放在一个HTTP服务器中。我采用的是nginx-1.16.1。
选项区左上角可以上传待修改的图片或下载画布的内容(格式为png)。
滤镜与图像风格迁移本项目使用的是Lena.js。仓库地址:https://github.com/davidsonfellipe/lena.js
左侧的是三种滤镜,红色,灰度与反色,而右侧是三种图像风格。代码调用部分十分简单,举一个例子。
1234567891011fliter1.addEvent ...
Node.js后端+MySQL数据库+jQuery前端实现
~
源代码地址:
https://github.com/YDJSIR-NJU/NJUSE-21-Frontend/tree/main/LoginAndRegister
通用组件部分数据定义
username:用户名;
email:邮件;
hash:密码加盐的盐值;
passwd:加密后的密码;
uid:数据表主键,用于唯一标识一个用户;
我们约定,用户名是不可以重复的,但是邮箱是可以重复的。约束放在后端来做。除了邮箱以外,其他的字符串类型的数据都是严格区分大小写的。
在我提供的导出的数据库文件中,已经包含了三个账户,用户名分别是ss1,ss2,ss3,密码都是ssss1111。数据库转移文件是base_info.sql。
数据库为了便于开发和调试,我选择了在docker中启动MySQL(数据库)和phpMyAdmin(面板)服务。启动过程如下所示,十分简洁明了。提交文件中附有转移数据表使用的SQL脚本文件,可轻松迁移到其他平台。
1234docker pull mysql:8.0.1docker run --name YDJSIR-mysql -p 3307:3306 -e M ...
部署一个toy级别的Spark集群
~环境相关本次实验中共使用了5台华为云ECS,其中1台作为master节点,3台作为workers节点,1台作为观察用的机器。(由于绑定外网相关设置复杂,我们组开了同一地域的一个虚拟机专门用于访问其他四台机器的网页)除了观察用的机器是Windows Server 2012R2 64位简体中文版以外,其他的机器使用的都是Ubuntu Server 18.04。剩余四台主机的主机名、内网IP与公网IP如下。
主机名
内网IP
外网IP
作用
ecs-master
192.168.0.142
主节点
ecs-d202
192.168.0.17
Worker节点
ecs-d203
192.168.0.100
Worker节点
ecs-d204
192.168.0.102
Worker节点
由于IP绑定的问题,通过外网直接访问时,需要主动将网页提供的URL中的内网IP替换为内网IP才可以正常访问。但是在专门准备的观察机器上访问则没有这个问题,因为可以内网直通。
工具相关由于网络问题,此处涉及的所有安装文件都是本地下载后用WinSCP上传到既定位置的。相关操作按 ...
全屋Wifi覆盖系列计划
持续更新……YDJSIR的亲戚们对于网络的投入通常而言是极为有限的。这也导致YDJSIR的网络体验非常不好。YDJSIR决心自费改变这种局面,并将于寒假期间进行工程实践。
商品房1号 完成组网协议中国电信e-Link
网络拓扑
在此之外,所有房间各一个神奇的磊科MG1200AC上海电信定制版。大力出奇迹。
组网效果覆盖效果:全屋2.4G Wi-Fi无死角,5G覆盖所有房间。
说明户主在不使用Wi-Fi的情形下会关闭Wi-Fi节点(因此这个组网必须有足够的弹性),且门口的“弱电箱”只能塞下光猫一个设备,也没有多余的电源插座,且户主不允许外挂设备以防止破坏外观(没法加更多路由器或者交换机,VLAN方案不可行)。IPTV是必须的,而且户主要求必须将千兆线留给电视以保证其上网质量(实测机顶盒能吃到17MB/s的速度,百兆能用,但是画质可能会受到影响),但是去客厅的只有一条千兆线和一条电话线(没错,是4芯的电话线,这是2020年以后),百兆有线回程估计也比那个光猫的无线回程强得多,便只好拿他做组网链路。实际测试了一下,广东电信的IPTV是走VLAN方案的,而且如果光猫已经拨号,下面非IPTV口连 ...