笔记¶
Image
GIF
全称Graphics Interchange Format,原义是“图像互换格式”。
- 优点:
- 文件小
- 支持动画
- 支持LZW (Lempel-Ziv-Welch)无损压缩算法
- 又叫“串表压缩算法”就是通过建立一个字符串表,用较短的代码来表示较长的字符串来实现压缩。
- 缺点
- 只支持8bit颜色
ICO
图标文件
一般像素为 16*16
BMP (类似的位点图 TGA TIF)
- bitmap
- TIF(Tag Image File Format)
- 优点
- 图像信息丰富
- 缺点
- 几乎不进行压缩,占用空间大
JPG (JPEG)
JPG即JPEG(Joint Photographic Experts Group)。
- 此格式不适合用来绘制线条、文字或图标,因为JPEG支持极高的压缩率通常会导致图片质量严重受损,不太适用于高清晰的图像应用场景。
- 对比之下PNG、GIF更适合做绘制线条、文字或图标的首选,不过GIF只支持8bit的颜色,不适合颜色丰富的图片。
JPEG图片压缩原理
JPEG的压缩方式主要有四种,其中一种是基于空间DPCM的无损压缩,另外三种是基于DCT的有损压缩。
- 基于DCT的顺序编码:
- 基于DCT变换原理,按照从上之下,从左至右的顺序对图像数据进行编码压缩。当接收端收到数据后,再按照这个顺序进行解码,在此过程中存在图像丢失,因此是有损压缩;
- 基于DCT的累进编码:
- 也是基于DCT变换原理,不过是对图像进行多次扫描,从而对图像进行进一步的数据压缩。所以图像还原时,看到的图像时粗略图,而后逐步细化,直到结束;
- 基于DCT的分层编码:
- 以图像分辨率为基准进行编码,从低分辨率开始,逐渐提高分辨率,直到于原图像的分辨率一致。图像的解码也是这样的步骤;
- 基于空间DPCM的无损压缩:
- 采用预测法和哈夫曼编码(或算术编码)以保证重建图像与原图像完全相同(设均方误差为零);
JFIF
JPEG文件交换格式(英语:JPEG File Interchange Format,简称JFIF)是一个图像文件格式标准。它是一种交换符合JPEG交换格式(JIF)标准的JPEG编码文件的格式。它解决了JIF在简单JPEG编码文件交换方面的一些限制。与所有符合JIF的文件一样,JFIF文件中的图像数据使用JPEG标准的技术压缩,因此JFIF有时被称为“JPEG/JFIF”。
Webp
2010年,谷歌为了让网络上的图片更小,让网站加载速度更快,提出了同画质下,比JPEG格式图像小40%的Webp格式。 * 主要是面向网页图片,截至2021年5月,已有94%的浏览器支持此格式 * Webp也支持无损压缩的选项。
PNG
是Portable Network Graphic的缩写,是一种光栅图像格式,是为了克服GIF格式的局限性并取代GIF格式而产生的。 PNG是一种无损的数据压缩和开放格式文件,没有版权限制。 * 采用了基于LZ77的无损的派生算法,能够在在保证图片清晰、逼真的前提下,达到更高的压缩比。 * PNG支持对原图像定义256个透明层次,使得图像的边缘能与任何背景平滑融合,这种功能是GIF和JPEG没有的。 * PNG图片可以分为三个类型,分别为 PNG 8/ PNG 24 / PNG 32: * PNG 8:8即指8bit,2^8 = 256种颜色; * PNG 24:24指的是24位,分为3个,即RGB,各占8bit,可以包含2^24种颜色; * PNG 32:32表示有32bit,除了RGB占了24bit,还有8 bit可以表示透明度,0-255表示透明程度;
压缩效果对比
同分辨率的图片(1491*1265), 使用格式工厂默认设置
ico(1616)|gif(170144)|webp |jpg | jfif | png|TIF|bmp(tga) |---|---|---|---|---|---|---|---| 1k|13k|159k|218K|248K|1.6M|1.62M|5.4M
需要进一步的研究学习
暂无
遇到的问题
暂无
开题缘由、总结、反思、吐槽~~
参考文献
https://zhuanlan.zhihu.com/p/156639005
Video
视频信息软件Mediainfo
同样是1080P 25帧,码率不同,大小差异很大。
或者(有时候会失效,eg 720P)
相关概念
CRF
CRF(英文:constant ratefactor 意思:压缩质量)是动态码率,要看你拍摄的视频画面抖动切换的程度,如果比较安静就20,动的厉害就25。
crf18就接近无损,字幕组惯用20-22,crf23是默认值。 CRF的值越小,视频将会越清晰 当然视频质量就会更大。
2-pass
2-pass通过两次编码,第一次编码是先对整个文件进行扫描,记录一些统计信息,第二次编码时根据前面记录的统计信息再进行编码。这么做虽然转换时间会漫长,但压出的片子会有更好的画质,画面细节更好,而且体积会更小。
常用于非实时转码的情景。
视频压缩实践
疫情线上参会邮件投递Presentation视频,邮件大小限制100MB。PPT生成的过大
格式工厂(Format Factory)压缩
直接自定义导入导出,默认设置就行(确定分辨率不变的情况下,大小无法限制)。视频部分就只有原来五分之一(中间),而且完全看不出损失。
如果要最小大小,选择“转mp4”,然后“输出设置”选择“低质量和大小”,最后在分辨率选回原来的分辨率。
如果不熟悉H.265的参数设置,压缩后不一定比H.264小。
PS: H.264中熵编码有两种方法: 1. 一种是对所有的待编码的符号采用统一的VLC(UVLC :Universal VLC), 2. 另一种是采用内容自适应的二进制算术编码(CABAC:Context-Adaptive Binary Arithmetic Coding)。CABAC是可选项。
CABAC动态的根据内容的码率能在效能与压缩效率上取得相当大的改善空间,但是顺序处理造成资料依存性(Data Dependency)偏高。
FFmpeg命令行
已知大小需求来计算需要压缩的码率。直接设置压缩后的平均码率就行,常见软件有:小丸工具箱,HandBrake, 剪映
首先需要知道如何计算码率
ffmpeg是一个自由软件,可以运行音频、视频多种格式的录影、转换、流功能,包含 * libavcodec--这是一个用于多个项目中的音频、视频的解码器库, * libavformat--一个音频和视频格式转换库。
# 视频流码率 500k, 音频流码率 50k
ffmpeg -i huawei_report_English_video.mp4 -c:v libx264 -b:v 500k -b:a 50k out_500k.mp4
# 或者设置最大最小
ffmpeg -i huawei_report_English_video.mp4 -minrate 100K -maxrate 500K -bufsize 2000K out.mp4
$ ls
-rw-r--r-- 1 shaojiemike staff 119M Jan 2 16:59 huawei_report_English_video.mp4
-rw-r--r-- 1 shaojiemike staff 50M Jan 2 17:23 out_500k.mp4
-rw-r--r-- 1 shaojiemike staff 24M Jan 2 17:14 out.mp4
$ ffmpeg -i out_500k.mp4 -hide_banner
Duration: 00:12:25.68, start: 0.000000, bitrate: 553 kb/s
Stream #0:0(und): Video: h264 (High) (avc1 / 0x31637661), yuv420p, 1280x720 [SAR 1:1 DAR 16:9], 493 kb/s, 30.30 fps, 30.30 tbr, 30303 tbn, 60.61 tbc (default)
Stream #0:1(und): Audio: aac (LC) (mp4a / 0x6134706D), 44100 Hz, stereo, fltp, 50 kb/s (default)
# shaojiemike @ snode6 in ~/test/ffmpeg [17:14:42] C:1
$ ffmpeg -i out.mp4 -hide_banner
Duration: 00:12:25.68, start: 0.000000, bitrate: 269 kb/s
Stream #0:0(und): Video: h264 (High) (avc1 / 0x31637661), yuv420p, 1280x720 [SAR 1:1 DAR 16:9], 125 kb/s, 30.30 fps, 30.30 tbr, 30303 tbn, 60.61 tbc (default)
Stream #0:1(und): Audio: aac (LC) (mp4a / 0x6134706D), 44100 Hz, stereo, fltp, 134 kb/s (default)
# shaojiemike @ snode6 in ~/test/ffmpeg [17:15:29] C:1
$ ffmpeg -i huawei_report_English_video.mp4 -hide_banner
Duration: 00:12:25.66, start: 0.000000, bitrate: 1330 kb/s
Stream #0:0(und): Video: h264 (Constrained Baseline) (avc1 / 0x31637661), yuv420p, 1280x720 [SAR 1:1 DAR 16:9], 1151 kb/s, 30.30 fps, 30.30 tbr, 30303 tbn, 60 tbc (default)
视频码率(视频比特率)
同样分辨率下,视频文件的码率越大,压缩比就越小,画面质量就越高。码率越高,精度就越高,处理出来的文件就越接近原始文件,图像质量越好,画质越清晰,要求播放设备的解码能力也越高。体积越大,说明压缩比小,越接近原文件。
帧率与码率的关系:帧率多,则每秒图片数目多;码率越高,每张图片质量越清晰。
码率的甜品点
VMAF - Video Multi-Method Assessment Fusion 视频多方法评估
3Mbps是1080p的甜品点。
其他标准
视频压缩编码
视频压缩原理看差评君的就懂了,讲的真好。
为什么有这么多标准:
H26x的视频的编解码“贵”: * 视频编码由视频作者解决 * 使用H26x标准解码价格不菲
视频编码
我们知道,其实视频就是一帧一帧的图片。计算一下,一部25帧每秒,90分钟,分辨率为1024*768,24位真彩色的视频,没有经过压缩,大小为
1Byte(字节) = 8bit(位)
一帧大小 = 1024 * 768 * 24 = 18874368(bit) = 2359296(Byte)
总帧数 = 90 * 60 * 25 = 135000
总大小 = 一帧大小 * 总帧数 = 2359296 * 135000 = 318504960000(Byte)= 303750(MB)≈ 296(GB)
一般ITU(国际电信联盟)和ISO(国际标准化组织)来制定
1. ISO主导的MPEG系列: MPEG-1 用于 VCD, MPEG-2用于DVD
2. h.26x由ITU主导,比如 H.261到H.263
3. 两者联合制定了 H.264-H.265
1. 各自别称 MPEG-4/AVC(Advanced Video Coding)和 MPEG-4/HEVC(High Efficiency Video Coding)
B站新支持的AOM联盟的AV1标准,免费而且没有潜在的版权问题。
画质不变时,编码标准越先进,码率越低.
相对于优酷等最高大约4000的码率,虽然B站码率低,但是以普通的动画素材为主的视频而言,因为动画以简单的单色大色块居多,一般来说1500左右的码率就足够了。
目前 AVC 依然是使用最广泛的编码标准,无论新老设备都可以播放 AVC 视频,因此保留 AVC 编码可以保证广泛的兼容性。
但是 AVC 在编码超高清视频时,输出码率较高,无法保证良好的观看体验;同时很多 AVC 解码器也不支持 HDR 和 8K 视频的解码。而 HEVC 和 AV1 对于超高清视频的压缩能力明显提升,对于 HDR 和 8K 视频的支持显著改善,因此 B 站使用更先进的编码标准为用户提供服务。
H.261的关键两原理
DCT变换
低频率部分是最重要的信息。
视频帧分类(初版)
先将视频分块, 1. 重用不变的色块 2. 对于平移的色块只记录移动矢量
帧间预测 & 帧内预测
关键帧I帧 与 预测帧P帧
MPEG-1
在 H.261 的基础上加入 1. 双向预测帧B帧 1. 更省空间,但是视频编码解码需要算力更大 2. 帧序列的概念
BT文件命名概述
- 标 AVC / H264 / H.264 / x264 的可以一律看作H264
- 标 HEVC / HVC1 / H265 / H.265 / x265 的可以一律看作H265
- GB / CHS / SC / zh-Hans 指简中
- BIG5 / CHT / TC / zh-Hant 指繁中
- 远离闲杂播放器,拥抱 Potplayer / IINA / VLC / MPC-BE / MPV
- 容器
- mkv,mp4
- rmvb
- RealMedia可变比特率(RMVB)。在网速缓慢的时代,边下载边看是巨大优势
- 缺点:rm/rmvb格式编解码都是要收费。压缩比和速度都远逊于H264
- avi
- AVI是英语Audio Video Interleave(“音频视频交织”或译为“音频视频交错”)的首字母缩写,由微软在1992年11月推出的一种多媒体文件格式,用于对抗苹果Quicktime的技术。 现在所说的AVI多是指一种封装格式。
- 图像数据和声音数据是交互存放的。从尾部的索引可以索引跳到自己想放的位置。
- AVI與MP4本身只有聲音與影像沒有字幕
文字编码
- ANSI 编码
- 美国国家标准学会(American National Standards Institute)的缩写
- ANSI并不是某一种特定的字符编码,而是在不同的系统中,ANSI表示不同的编码
- 在简体中文系统下,ANSI 编码代表 GB2312 编码,在日文操作系统下,ANSI 编码代表 JIS 编码。
- GB2312
- 国家推出的常见6000汉字
- GBK
- 微软拓展了繁体汉字的普通技术规范,所以windows上基本都是默认GBK
- UNICODE
- Universal Multiple-Octet Coded Character Set 统一码,初始就25种文字
- 采用了书写编码,导致会有长得像,但是完全不同的文字。导致很多钓鱼网站
- UTF-8编码
- UTF-8全称:8bit Unicode Transformation Format,8比特Unicode通用转换格式,是一种变长的编码方式。
- 其编码中的第一个字节仍然与ASCII兼容。
需要进一步的研究学习
暂无
遇到的问题
暂无
开题缘由、总结、反思、吐槽~~
参考文献
https://bravoing.github.io/2020/02/14/%E8%A7%86%E9%A2%91%E6%92%AD%E6%94%BE%E5%99%A8%E5%8E%9F%E7%90%86%E3%80%81%E5%88%86%E8%BE%A8%E7%8E%87%E3%80%81%E5%B8%A7%E7%8E%87%E3%80%81%E7%A0%81%E7%8E%87/
作者:哔哩哔哩技术 https://www.bilibili.com/read/cv16198183 出处:bilibili
https://www.youtube.com/watch?v=0LSHhatwTxM
https://www.jianshu.com/p/c23f3ea5443d
Streaming Protocol & Streaming Coding
流式传输 协议
常用的流媒体协议主要有两类:
- HTTP渐进下载
- 基于RTSP/RTP的实时流媒体协议。
在流式传输的实现方案中,一般采用
- HTTP/TCP来传输控制信息,
- 用RTP/UDP来传输实时多媒体数据。
RTP 、 RTCP (Real-time Transport Control Protocol)
- 由IETF的多媒体传输工作小组1996年在RFC 1889中公布。
- RTCP是RTP的一个姐妹协议
- RTP协议的特点
- RTP协议是建立在UDP协议上的。
- RTP并不保证传送或防止无序传送,也不确定底层网络的可靠性。
- RTP实行有序传送,RTP中的序列号允许接收方重组发送方的包序列。
- RTP不像http和ftp可完整的下載整個影視檔,它是以固定的資料率在網路上發送資料,用戶端也是按照這種速度觀看影視檔,當影視畫面播放過後,就不可以再重複播放,除非重新向伺服器端要求資料。
- RTCP特点
- RTCP的主要功能是为RTP所提供的服务质量提供反馈来试图提高服务质量。RTCP收集相关媒体连接的统计信息,例如:传输字节数,传输分组数,丢失分组数,时延抖动,单向和双向网络延迟等等。来判断是否限制信息流量或改用压缩比较小的编解码器。
- RTCP本身不提供数据加密或身份认证,其伴生协议SRTCP安全实时传输控制协议则可用于此类用途。
SRTP & SRTCP(Secure Real-time Transport Protocol)
- 最早由IETF於2004年3月作為RFC3711發佈,提供加密、消息認證、完整性保證和重放保護。
RTSP(Realtime Streaming Protocol)
- 于1998年发布为RFC 2326。RTSP 2.0 于2016年发布为RFC 7826,作为RTSP 1.0的替代品。
- 专为娱乐和通信系统的使用,以控制流媒体服务器。
- 媒体服务器的客户端发布VCR命令,例如播放,录制和暂停,以便于实时控制从服务器到客户端(视频点播)或从客户端到服务器(语音录音)的媒体流。
- 流数据本身的传输不是RTSP的任务。大多数RTSP服务器使用实时传输协议(RTP)和实时传输控制协议(RTCP)结合媒体流传输。
- 与RTP最大的区别在于:
- RTSP是一种双向实时数据传输协议,它允许客户端向服务器端发送请求,如回放、快进、倒退等操作
- 当然RTSP可基于RTP来传送数据,还可以选择TCP、UDP、组播UDP等通道来发送数据,具有很好的扩展性。
- 它是一种类似于HTTP协议的网络应用协议。
RTMP(Real Time Messaging Protocol)
- Adobe于2012年12月21日发布了该协议1.0版本的规范。
- 是 Adobe Systems 公司为 Flash 播放器和服务器之间音频、视频和数据传输开发的开放协议。
- 协议基于 TCP,是一个协议族,包括 RTMP 基本协议及 RTMPT/RTMPS/RTMPE 等多种变种。
- RTMPT封装在HTTP请求之中,可穿越防火墙;
- RTMPS类似RTMPT,但使用的是HTTPS连接。
- RTMPE,使用Adobe自有安全機制加密的RTMP。雖然實現上的細節是專有的,但該機制使用行業標準的密碼學加密演算法。
- RTMP 是目前主流的流媒体传输协议,广泛用于直播领域。
- 默认通信端口1935。RTMP URL格式:
rtmp://ip:[port]/appName/streamName
- 特点
- RTMP协议是采用实时的流式传输,所以不会缓存文件到客户端,这种特性说明用户想下载RTMP协议下的视频是比较难的;
- 视频流可以随便拖动,既可以从任意时间点向服务器发送请求进行播放,并不需要视频有关键帧。相比而言,HTTP协议下视频需要有关键帧才可以随意拖动。
- RTMP协议支持点播/回放(通俗点将就是支持把flv,f4v,mp4文件放在RTMP服务器,客户端可以直接播放),直播(边录制视频边播放)。
MMS(Microsoft Media Server Protocol)
- 访问并流式接收Window Media服务器中.asf文件的一种协议。
- 可以用Windows自带的Windows Media Player来观看
Web RTC(Web Real-Time Communications)
- 于2011年6月1日开源并在Google、Mozilla、Opera支持下被纳入万维网联盟的W3C推荐标准。
- 是一个支持网页浏览器进行实时语音对话或视频对话的API。
- 目前主要应用于视频会议和连麦中。
HLS(Http Live Streaming, 明显是基于HTTP)
- 是由苹果提出基于HTTP的流媒体传输协议。
- 原理
- 直播客户端获取到的并不是一个完整的数据流,HLS协议在服务器端将直播数据流存储为连续的、很短时长的媒体文件(MPEG-TS格式)(MPEG-2 Transport Stream;又称MPEG-TS、MTS、TS),而客户端则不断的下载并播放这些小文件,因为服务器总是会将最新的直播数据生成新的小文件,这样客户端只要不停的按顺序播放从服务器获取到的文件,就实现了直播。
- 特点
- 优点就是HTML5可以直接打开播放;分段文件的时长很短,客户端可以很快的选择和切换码率,以适应不同带宽条件下的播放。
- 缺点就是延迟高。
HTTP-FLV(明显是基于HTTP)
- 将直播流模拟成FLV文件,通过HTTP协议进行下载的模式来实现流媒体传输的协议。
各种软件使用的流式协议
moonlight
官网写着
Moonlight (formerly Limelight) is an open source implementation of NVIDIA's GameStream protocol.
那么 NVIDIA's GameStream protocol是什么呢?
NVIDIA uses high speed, low latency video encoders built into GeForce GTX or RTX GPUs along with an efficient streaming software protocol integrated into GeForce Experience.
我只能说看上去像自研的~但是马上也要没了
Nvidia isn’t just ending support for GameStream, it’s planning to fully remove the feature from existing Shield hardware in February 2023. Nvidia is recommending that Shield users switch to Steam Link, which is a similar way of streaming PC games to a Shield device.
Steam Link
有github老哥分析了。但我只能说肯定不是上面常见的类型。
sequenceDiagram
Client ->> Host: Discovery/Connect
Note over Client: Send client connection ID
Host ->> Client: Discovery/Connect ACK
Note over Client: Got host connection ID, start client handshake
Client ->> Host: Reliable/Control:ClientHandshake
par Discovery Channel
loop While True
Host ->> Client: Unconnected/Discovery:PingRequest
Client ->> Host: Unconnected/Discovery:PingResponse
end
end
Host ->> Client: Reliable/Control:ServerHandshake
Note over Client: Got mtu, start authentication
Client ->> Host: Reliable/Control:AuthenticationRequest
Host ->> Client: Reliable/Control:AuthenticationResponse
Host ->> Client: Reliable/Control:NegotiationInit
Note over Client: Got host supported audio/video codecs
Client ->> Host: Reliable/Control:NegotiationSetConfig
Note over Client: Send selected codecs and config
Host ->> Client: Reliable/Control:NegotiationSetConfig
Note over Client: Got final config, respond with complete
Client ->> Host: Reliable/Control:NegotiationComplete
par Audio Data Channel
Host ->> Client: Reliable/Control:StartAudioData
loop Not StopAudioData
Host ->> Client: Unreliable/Data:Packet
end
and Video Data Channel
Host ->> Client: Reliable/Control:StartVideoData
loop Not StopVideoData
Host ->> Client: Unreliable/Data:Packet
end
end
Client ->> Host: Discovery/Disconnect
流式传输 视频压缩编码
主流还是 H.264 或者 HEVC。 流式传输时为了保证帧率可能会牺牲画面。
Steam Link 的相关设置
需要进一步的研究学习
暂无
遇到的问题
暂无
开题缘由、总结、反思、吐槽~~
参考文献
山东布谷科技 https://www.bilibili.com/read/cv9502267?from=search&spm_id_from=333.337.0.0 出处:bilibili
uTorrent
缓存设置
tjupt的默认设置就不错。红框是建议勾选的。
错误:内存不足,无法完成请求
This is because the cache size is too big, lower to 512MB
or 1GB
to fix this.1
But the size bigger the faster, 1.4GB
is the biggest available value which ut can support.
突然没速度了,可能是缓存卡住了。一般也没什么解决办法。但是稳定下载的时候会均衡。
下载如何修改文件名和位置
首先不要勾选"立即下载",通过如下更改位置即可再开始下载即可。还可以多选来批量移动文件到文件夹。(对于PT需要下载100%文件才能做种的,但是不需要的文件会影响刮削。可以通过批量移动到其他位置来解决)
北洋园tjupt红种问题
Essential Reason: tjupt.org's network traffic is brokered
configure the router policy to DIRECT to fix this.
其余方法:实际测试重置网络解决
- 无法与服务器建立连接. utorrent种子暂停然后开始/更新tracker即可
- 键盘按“Win + R”组合快捷键,输入“inetcpl.cpl”,点击“确定”进入“Internet选项”,在“高级”选项卡中选择“重置 IE 设置”
参考文献
http://pgpchs.blogspot.com/2011/03/utorrent-antigfwalloutwallbloggercom.html
https://blog.csdn.net/Gerald_Jones/article/details/78848426
Wake On Lan(Wol)
简介
Wake-on-LAN 也叫 WoL,指通过网络消息打开或唤醒计算机。
WoL 需要由另一台「同局域网」设备发送网络信号,任意有能力发送 WoL 信号 的设备都可以充当此角色;在远程办公场景中,则最好由「带有线网卡的低功耗设备」来执行,这类设备包括但不限于以下选项:
- 带网络唤醒 WoL 功能的路由器产品
- OpenWrt Linux 设备「TP-Link 703n」
- 树莓派「推荐 2 代」
网络扫描
获取局域网下设备MAC地址, 或者OpenWRT直接显示 |平台 |工具 | | ---| ---| Windows | Softperfect Network Scanner Linux | arp-scan Android / iOS | Fing / PingTools
发出唤醒信息的软件
可以使用的幻数据包唤醒工具有:
平台 | 工具 | 特点 |
---|---|---|
Windows | wolcmd.exe | 命令行,跨网段 |
Linux/MacOS | etherwake, wakeonlan | 命令行,同网段 |
Android / iOS | Fing / PingTools | 可扫描 |
请注意,WoL 属于无状态协议,仅发送、不确认。
问题:抓包发现 WolCmd和wakeonlan的目的地址不同
WolCmd.exe 90:09:D0:15:70:B8 192.168.233.242 255.255.255.255 9 (目的地址 192.168.233.242)
WolCmd.exe 90:09:D0:15:70:B8 192.168.233.242 255.255.255.0 9 (测试过本地能成功,br-lan路由器能抓, 本地wireshark目的地址 192.168.233.255)
WolCmd.exe 90:09:D0:15:70:B8 192.168.233.242 0.0.0.0 9 (目的地址 192.168.233.109.53362 > 255.255.255.255.9 注意:109是macboook)
shaojiemike@shaojieikedeAir ~/github/hugoMinos (main*) [11:46:22]
> wakeonlan 90:09:D0:15:70:B8 (目的地址 192.168.233.109.53362 > 255.255.255.255.9 注意:109是macboook)
Sending magic packet to 255.255.255.255:9 with payload 90:09:D0:15:70:B8
Hardware addresses: <total=1, valid=1, invalid=0>
Magic packets: <sent=1>
路由遇到目的MAC是广播地址怎么办?
IP的广播有三种: 1. 255.255.255.255叫本地广播,也叫直播,direct broadcast,不跨路由器。 2. 172.16.33.255叫子网广播,广播给172.16.33.0这个子网,可以跨路由器 3. 172.16.255.255叫全子网广播,广播给172.16.0.0这个主网,可以跨路由器。
路由器是三层设备,可以隔离广播,但并不是所有广播都隔离。事实上只有本地广播路由器才不转发,对于子网广播和全子网广播,路由器是转发的。
为什么呢?我们来看255.255.255.255的广播,在MAC的封装中,对应的目的MAC是广播,而子网广播和全子网广播,对应的目的MAC是单播,所以路由器会转发。所以路由器隔离的广播是目的MAC为全1的广播,对于目的MAC是单播的上层广播,路由器是不能隔离的。
广播规则
> netstat -r -anv
Routing tables
Internet:
Destination Gateway Flags Netif Expire
default 192.168.233.1 UGScg en0
127.0.0.1 127.0.0.1 UH lo0
192.168.233 link#11 UCS en0 !
192.168.233.1/32 link#11 UCS en0 !
192.168.233.1 5c:2:14:b3:2:a UHLWIir en0 1172
192.168.233.109/32 link#11 UCS en0 !
192.168.233.242 90:9:d0:15:70:b8 UHLWI en0 151
192.168.233.255 ff:ff:ff:ff:ff:ff UHLWbI en0 !
255.255.255.255/32 link#11 UCS en0 !
255.255.255.255 ff:ff:ff:ff:ff:ff UHLWbI en0 !
[root@ax6s ~]$ ip route get to 192.168.233.242 from 192.168.233.142 iif lan2
192.168.233.242 from 192.168.233.142 dev br-lan
cache iif lan2
[root@ax6s ~]$ ip route get to 192.168.233.255 from 192.168.233.142 iif lan2
broadcast 192.168.233.255 from 192.168.233.142 dev lo table local
cache <local,brd> iif lan2
[root@ax6s ~]$ ip route get to 255.255.255.255 from 192.168.233.142 iif lan2
broadcast 255.255.255.255 from 192.168.233.142 dev lo
cache <local,brd> iif lan2
电脑需要远程被远程唤醒
电脑设置
- 「网络连接」
- 以太网(有线网)属性
- 【网络】(Realtek PCIe 2.5GbE Family Controller)下配置
- 【电源管理】勾选「允许此设备唤醒计算机」以及「只允许幻数据包唤醒计算机」
- BIOS打开相关选项
需要进一步的研究学习
暂无
遇到的问题
暂无
开题缘由、总结、反思、吐槽~~
Nas 太吵,需要自动关机
参考文献
https://sspai.com/post/67003
https://www.depicus.com/wake-on-lan/wake-on-lan-cmd
Ed2k
基本原理
区别于BT,核心概念在于文件共享。
- 设置共享目录,该目录中的所有文件,都会实时共享到eDonkey和KAD网络中。
- 目录中共享了的文件都会生成eD2k链接,所有人通过相应的eD2k链接,都能够拿到你共享的文件,
- 一旦有人下载相应文件,那么你的eMule客户端就会上传数据。
- 平时使用eD2k链接下载,资源也是来自他人eMule所共享的文件的。
- 当然,共享目录中也可以啥都不放,但很多eMule客户端都拥有队列优先级机制,上传得少,下载速度也会被限制。
与BT的区别
- 资源持久性
- 对于BT来说,用户被视为下载者。当用户上传到指定比率作为一个下载者的义务就完成了,一般就停止上传了,这使得BT在下热门资源的时候速度快,但是对冷门资源来说即使这个文件没有被删除也不会有上传者了。
- 而对于eMule来说,用户被视为分享者。只要用户文件没被删除作为资源分享者就一直上传,这样可以长期保源。
- 资源搜索能力
- BT协议中没搜索功能
- eMule搜索的时候每个资源大小来源数甚至拥有者对其的评价都是一目了然的,这样使得资源广泛分布,也有利于资源优胜劣汰,从而达到长期保源的目的。
基本概念
eD2k:
eDonkey网络所使用的协议,eDonkey网络所共享的文件会生成eD2k开头的链接。
电驴
eDonkey2000:(又称:eDonkey;缩写:eD2k;非官方中文译名:电驴)最先开发使用eDonkey网络的文件共享客户端软件。2000年起开发,2005年停止维护,之后eDonkey网络被其他软件沿用。
电骡
eMule:(官方中文名:电骡)eMule及其Mods是现在最流行的一款eDonkey网络文件共享客户端软件。2002年起开发。
需要进一步的研究学习
暂无
遇到的问题
暂无
开题缘由、总结、反思、吐槽~~
参考文献
作者:qysnn 链接:https://www.zhihu.com/question/19922200/answer/29022933 来源:知乎 著作权归作者所有。商业转载请联系作者获得授权,非商业转载请注明出处。
Clash on LAN/linux/Dockers
导言
在国内的linux服务器上,往往需要clash来代理访问github等外网资源。
有几种解决方案:
- 透明代理
- ssh 转发实现代理,类似
ssh -fNgR 7333:127.0.0.1:7890 [email protected]
- Clash 的 Allow LAN功能
- Clash in Docker
- Clash in Linux
Clash的模式
- 系统代理模式:只代理
127.0.0.1:7890
上的数据 - TUN代理模式:虚拟网卡,并接管所有的网络层的数据
- 无法封装网络层数据包,无法代理ping, fake-ip还会返回假ip
- TUN与TAP是操作系统内核中的虚拟网络设备:
- TAP等同于一个以太网设备,它操作第二层数据包如以太网数据帧。
- TUN模拟了网络层设备,操作第三层数据包比如IP数据包。
- 舍弃的redir-host模式由于必须返回一个真实ip,因此必需发起dns请求,存在dns泄露
- 默认的fake-ip会对域名的DNS请求返回fake-ip,从而避免DNS泄露。然后根据域名分流将信包发送到对应的上游代理机器,把域名DNS解析工作留给上游机器。
- fake-ip模式,将fake-ip-filter设置为
+.*
便等价于redir-host模式
- fake-ip模式,将fake-ip-filter设置为
Clash的配置文件
# RESTful web API listening address
external-controller: 127.0.0.1:9090
# DNS server settings
# This section is optional. When not present, the DNS server will be disabled.
dns:
enable: false
listen: 0.0.0.0:53
ipv6: false # when the false, response to AAAA questions will be empty
# These nameservers are used to resolve the DNS nameserver hostnames below.
# 默认只支持ip
default-nameserver:
- 8.8.8.8
# 对于下面的域名,fake-ip模式会返回真实ip
fake-ip-filter:
- '*.lan'
- localhost.ptlogin2.qq.com
# 支持 UDP, TCP, DoT, DoH. 和指定端口
# 所有DNS请求都会不经过代理被转发到这些服务器,Clash会选择一个最快的返回结果
nameserver:
- https://223.5.5.5/dns-query # 阿里云
- https://doh.pub/dns-query #腾讯云
- tls://dns.rubyfish.cn:853 # DNS over TLS
- https://1.1.1.1/dns-query # DNS over HTTPS
- dhcp://en0 # dns from dhcp
# 对于所有DNS请求,fallback和nameserver内的服务器都会同时查找
# 如果DNS结果为非国内IP(GEOIP country is not `CN`),会使用fallback内的服务器的结果
# 因为nameserver内为国内服务器,对国外域名可能有DNS污染。fallback内是国外服务器,能防止国外域名被DNS污染
fallback:
- https://162.159.36.1/dns-query
- https://dns.google/dns-query
- tls://8.8.8.8:853
# DNS污染攻击的对策
fallback-filter:
geoip: false # If geoip is true, when geoip matches geoip-code, clash will use nameserver results. Otherwise, Clash will only use fallback results.
# geoip-code: CN
ipcidr: # IPs in these subnets will be considered polluted, when nameserver results match these ip, clash will use fallback results.
- 0.0.0.0/8
- 10.0.0.0/8
- 100.64.0.0/10
- 127.0.0.0/8
- 169.254.0.0/16
- 172.16.0.0/12
- 192.0.0.0/24
- 192.0.2.0/24
- 192.88.99.0/24
- 192.168.0.0/16
- 198.18.0.0/15
- 198.51.100.0/24
- 203.0.113.0/24
- 224.0.0.0/4
- 240.0.0.0/4
- 255.255.255.255/32
domain: #Domains in these list will be considered polluted, when lookup these domains, clash will use fallback results.
- +.google.com
- +.facebook.com
- +.youtube.com
- +.githubusercontent.com
Clash use Allow LAN
假如服务器和笔记本在LAN下,笔记本的clash软件只需要打开LAN就可以给服务器代理了,是最简单方便的方式。
Clash in Docker
由于UGREEN NAS一直开机,作为代理节点很适合。
首先注意修改代理机场的文件config.yaml
的0.0.0.0:9090
,以便haishanh/yacd
使用。
mixed-port: 7890
allow-lan: true
bind-address: '*'
mode: rule
log-level: info
external-controller: '0.0.0.0:9090'
- 使用
dreamacro/clash
1 - UI使用
haishanh/yacd
Clash in Linux
下载
下载可执行文件
wget https://github.com/Dreamacro/clash/releases/download/v1.11.8/clash-linux-amd64-v1.11.8.gz
scp
gunzip clash-linux-amd64-v1.11.8.gz
chmod u+x clash-linux-amd64-v1.11.8
- Clash 运行时需要
Country.mmdb
文件,Country.mmdb
文件利用GeoIP2
服务能识别互联网用户的地点位置,以供规则分流时使用。 - 当第一次启动 Clash 时(使用
./clash
命令) 会自动下载(会下载至/home/XXX/.config/clash
文件夹下)。自动下载可能会因网络原因较慢,可以访问该链接手动下载。
配置
根据订阅链接配置文件
验证
成功结果
# shaojiemike @ node6 in ~/Download [10:22:54] C:130
$set_proxy
# shaojiemike @ node6 in ~/Download [10:22:57]
$ curl -v www.google.com
# shaojiemike @ node6 in ~/Download [10:21:46]
$ ./clash-linux-amd64-v1.11.8
INFO[0000] Start initial compatible provider 🍃 Proxies
INFO[0000] Start initial compatible provider ☁️ Others
INFO[0000] Start initial compatible provider 🍂 Domestic
INFO[0000] Start initial compatible provider ⭐️ Auto
INFO[0000] Mixed(http+socks) proxy listening at: [::]:7890
INFO[0000] RESTful API listening at: [::]:9090
INFO[0000] DNS server listening at: [::]:5323
INFO[0070] [TCP] 127.0.0.1:52664 --> www.google.com:80 match DomainKeyword(google) using 🍃 Proxies[专线 日本 03]
图形化界面管理
http://clash.razord.top/#/proxies
输入
查看config.yaml
,发现是空
mixed-port: 7890
allow-lan: true
mode: rule
log-level: info
external-controller: '0.0.0.0:9090'
secret: ''
常见问题
address already in use
# shaojiemike @ node6 in ~/Download [10:14:25]
$ ./clash-linux-amd64-v1.11.8
INFO[0000] Start initial compatible provider ⭐️ Auto
INFO[0000] Start initial compatible provider 🍃 Proxies
INFO[0000] Start initial compatible provider ☁️ Others
INFO[0000] Start initial compatible provider 🍂 Domestic
INFO[0000] RESTful API listening at: [::]:9090
INFO[0000] Mixed(http+socks) proxy listening at: [::]:7890
ERRO[0000] Start DNS server error: listen udp 0.0.0.0:5353: bind: address already in use
修改配置文件里的端口即可
参考文献
https://blog.iswiftai.com/posts/clash-linux/
https://einverne.github.io/post/2021/03/linux-use-clash.html
AI Image
AI tag
https://www.bilibili.com/video/BV1L84y1z7bH/?spm_id_from=333.999.0.0&vd_source=5bbdecb1838c6f684e0b823d0d4f6db3
https://aitag.top/
novelAI
官网要钱,有泄漏的50G的模型,B站有up抽取了其中的一个做了整合包
不知道,会不会有版权问题下架了。
常见问题(环境RTX3070 8G)
- 6G、8G显存生成太慢的问题已经修复
- 百度盘里已经上传了修复包,请下载并且替换hydra_node里所有文件
- 然后6G显存请使用6g的bat文件 等于8G或者以上的直接使用start.bat
- 网址是 127.0.0.1:6969
- CTRL+C 好像才能启动?
- RTX3070 大概20s一张
可以把start.bat改成sh脚本在实验室A100上跑
参考文献
作者:秋葉aaaki https://www.bilibili.com/read/cv19038600?spm_id_from=333.788.b_636f6d6d656e74.7 出处:bilibili