“ 分布式系统里 Socks 协议代理一般怎么用?Python 程序一般会怎么用,Socks 协议到底是什么样的?这篇文章都会聊聊”
Pip 安装
使用场景
官方例子
更通用的场景
PySocks 库原理
设置 Proxy
socksocket 类
Socks5 协议
鉴权查询
鉴权响应
代理信息
代理建立响应
Python 有一个库 PySocks ,这个库非常方便你使用 socks 代理协议,比如有些时候,你的 Python 程序需要发送一个 HTTP 请求到某个机器,但是网络不能直接连接,需要走跳板机,走代理,那么就可以使用这个库让你偷偷的走 Socks 代理,业务完全无感知的,请求就发往了机器(但其实是走了代理)。
pip install PySocks
官方使用例子:
import socks
# 建立一个操作句柄;
s = socks.socksocket() # Same API as socket.socket in the standard lib
# 指明代理服务器和端口
s.set_proxy(socks.SOCKS5, "localhost", 8888)
# 走代理发 HTTP 请求
s.connect(("www.somesite.com", 80))
s.sendall("GET / HTTP/1.1 ...")
print s.recv(4096)
上面的例子,还是不够优美,你仔细看看,业务的逻辑和代理直接耦合在一起了。所以这种是侵入式的,适用场景有限。
更多的场景是,我业务代理已经有了,配置什么的都是直接的 target ,这样直接通信。线上跑当然没问题,但是如果我是在本地电脑上调试,如果网络不能直接连通,只能通过跳板机,那 Python 程序在本地便跑不起来。
这个时候,就可以用到 Pysocks 的 Monkeypatching 功能,就可以业务无感知的使用到代理,什么叫做业务无感知?就是业务完全不改代码,自己都不知道,就走了代理了。
举例:
import urllib2
import socket
import socks
# socks5 猴子补丁
socks.set_default_proxy(socks.SOCKS5, "localhost", 8888)
socket.socket = socks.socksocket
# 业务代码(完全无感知)
urllib2.urlopen("http://www.somesite.com/")
PySocks 整个库就两个文件:
其中最核心的就是 socks.py 文件里,最核心的实现。sockshandler.py 只是一个简单的封装。
我们取一些代码片段,来看看最核心的原理。
def set_default_proxy(proxy_type=None, addr=None, port=None, rdns=True,
username=None, password=None):
"""Sets a default proxy.
All further socksocket objects will use the default unless explicitly
changed. All parameters are as for socket.set_proxy()."""
socksocket.default_proxy = (proxy_type, addr, port, rdns,
username.encode() if username else None,
password.encode() if password else None)
这里只是创建了一个元组,把代理服务器地址,端口,鉴权等信息保存下来,以待后用。
最核心的实现就是这个类了,connect,bind 的实现就不说了,是 patch 的实现。
class socksocket(_BaseSocket):
"""
代理协议的实现 + money patch 的实现
"""
default_proxy = None
def bind(self, *pos, **kw):
"""Implements proxy connection for UDP sockets.
Happens during the bind() phase."""
@set_self_blocking
def connect(self, dest_pair, catch_errors=None):
"""
Connects to the specified destination through a proxy.
Uses the same API as socket's connect().
To select the proxy server, use set_proxy().
dest_pair - 2-tuple of (IP/hostname, port).
"""
def _negotiate_SOCKS5(self, *dest_addr):
"""Negotiates a stream connection through a SOCKS5 server."""
def _negotiate_SOCKS4(self, dest_addr, dest_port):
"""Negotiates a connection through a SOCKS4 server."""
def _negotiate_HTTP(self, dest_addr, dest_port):
"""Negotiates a connection through an HTTP server.
其中,_negotiate_SOCKS5
,_negotiate_SOCKS4
,_negotiate_HTTP
这三个函数是代理实现,从名字上也能看出来,分别是 Socks5,Socks4,HTTP 的代理实现。就以 Socks5 的实现是 _SOCKS5_request
函数。
def _SOCKS5_request(self, conn, cmd, dst):
"""
Send SOCKS5 request with given command (CMD field) and
address (DST field). Returns resolved DST address that was used.
"""
proxy_type, addr, port, rdns, username, password = self.proxy
writer = conn.makefile("wb")
reader = conn.makefile("rb", 0) # buffering=0 renamed in Python 3
try:
# 按照数据格式鉴权
# 认证成功
# 如果没有鉴权,那么代理服务器返回的是 0x00
elif chosen_auth[1:2] != b"\x00":
# 如果鉴权失败,那么返回的是 0xff
if chosen_auth[1:2] == b"\xFF":
raise SOCKS5AuthError()
else:
raise GeneralProxyError()
# 鉴权成功,则代理服务器可以和后端建立连接了,那么则可以把一些信息发给代理服务器了
writer.write(b"\x05" + cmd + b"\x00")
resolved = self._write_SOCKS5_address(dst, writer)
# 获取到代理服务器的响应
resp = self._readall(reader, 3)
if resp[0:1] != b"\x05":
raise GeneralProxyError()
# 获取代理服务器返回的 处理IP和端口
bnd = self._read_SOCKS5_address(reader)
# 这个搞完,就可以传输数据了
Socks5 协议是基于 TCP/IP 之上的代理协议。按照之前5层协议的说法应该也算是应用层协议,但更准确的,按照 OSI 7层模型,Socks 属于会话层协议,在表示层和传输层之间,具体定义可以查看 Wiki 。我们经常看见 Socks 协议可以作为一个透明协议,上面可以跑其他的的应用层协议,比如最常见的 HTTP 协议就可以跑在 Socks 协议上面。
思考下,HTTP 本身也有代理协议的实现,那么和 Socks 代理协议对比,有什么不一样?最关键的还是,HTTP 的代理实现,是 HTTP 应用协议本身实现的代理协议,是业务本身要强感知的,比如我们经常看到 HTTP 代理的时候,去掉一些 HTTP Header ,不像 Socks 是透明的代理协议,是完全不感知自己传输的数据的。
用简单的话说下,这个代理协议到底是个什么代理协议?
举个例子:
有 A,B,C 三个人,A 要给 C 说句话,但两人天各一方,B 神通广大,可以联通两人,A 就把要说的话,写在纸上,用信封装好,把信给到 B,B 怎么才知道这个信是给 C 的呢?那么 A 就要明明白白的在信封上把情况在信封上说好,给谁的,这个格式就是 Socks 协议格式(旁白:B的心里话,只要给我的信上把事情说明白了,那我就知道怎么办了 );
在这个例子里面,A 就是 Client,B 就是 Proxy(或者也是 Socks Server),C 是 Target 。
Socks5 协议本身非常简单,分为传输数据之前,会经历两次 RTT ,四个请求:
数据包格式:
+----+----------+----------+
|VER | NMETHODS | METHODS |
+----+----------+----------+
| 1 | 1 | 1 to 255 |
+----+----------+----------+
字段解析:
METHODS
字段指明类型,0x00 表示不鉴权。如果代理服务器不支持的,可以回复 0xff
,如果一切Ok,则可以恢复 0x00
。
这个阶段核心在于协商,客户端告诉代理服务器他想要的是什么,需要知道服务端支持什么。
数据包格式:
+----+----------+
|VER | NMETHOD |
+----+----------+
| 1 | 1 |
+----+----------+
字段解析:
METHOD字段的值可以取如下值:
这个阶段核心在于:告诉客户端自己的选择。
这个请求是由 Client 发往代理服务器的,明白告诉代理,我要把信息发给谁(ip:port),这个阶段一般来讲,代理就会和 Target 建立网络连接。
数据包格式:
+----+-----+-------+------+----------+----------+
|VER | CMD | RSV | ATYP | DST.ADDR | DST.PORT |
+----+-----+-------+------+----------+----------+
| 1 | 1 | X'00' | 1 | Variable | 2 |
+----+-----+-------+------+----------+----------+
字段解析:
VER 版本号,指明 Socks 协议版本,Socks5 即是 0x05
CMD 命令类型
CONNECT X'01'
BIND X'02'
UDP ASSOCIATE X'03'
RSV 保留字段
ATYP 地址类型
IP V4 address: X'01'
DOMAINNAME: X'03'
IP V6 address: X'04'
DST.ADDR 目标地址(告诉代理服务器发给谁)
DST.PORT 目标端口
服务器把客户端收到的这个数据包收到之后,鉴权,版本,等等都做好了。就该处理数据了。
代理服务器发给 Client 的响应,告诉自己已经准备好了,自己的服务IP地址等。这个请求之后,客户端就可以发数据了,代理服务器直接做转发。
数据包格式:
+----+-----+-------+------+----------+----------+
|VER | REP | RSV | ATYP | BND.ADDR | BND.PORT |
+----+-----+-------+------+----------+----------+
| 1 | 1 | X'00' | 1 | Variable | 2 |
+----+-----+-------+------+----------+----------+
字段解析:
VER 版本号
REP 响应字段(reply)
X'00' succeeded
X'01' general SOCKS server failure
X'02' connection not allowed by ruleset
X'03' Network unreachable
X'04' Host unreachable
X'05' Connection refused
X'06' TTL expired
X'07' Command not supported
X'08' Address type not supported
X'09' to X'FF' unassigned
RSV 保留字段
ATYP 地址类型
IP V4 address: X'01'
DOMAINNAME: X'03'
IP V6 address: X'04'
BND.ADDR 代理服务器地址
BND.PORT 代理服务器端口
公有云厂商考虑到机房故障域,会有多个机房,会在多个地域部署数据中心,这样线上一个机房故障,甚至某整个地域故障也能保证可用性。但这机房之间,地域之间是要通信的,中间隔着公网,一般有几个方法:
比如下图:
1 . 组件1 要发消息给 组件5;
a . 组件1 配置填的了组件5的ip,注意了是内网ip
2 . 组件1 发消息到 Socks 代理服务器 A 上,代理服务器一看地址,判断了下,发现本机房没有这个 ip ,于是发给机房2的 Socks 代理服务器 B;
3 . Socks 代理服务器 B 一看ip,确认组件5在自己机房,于是把消息发给组件5;
4 . 组件5抽到消息之后,响应原路返回;
这里有个点,希望大家能想通:
这个内网组件和 Socks A,B 的通信协议格式就可使用我们说的 Socks 协议,当前最常用的就是 Socks5 协议。
Socks 协议是一个极简的协议,用于透明的数据代理,配合端口转发,有很多有意思的用法。之后再分享。
本文由哈喽比特于3年以前收录,如有侵权请联系我们。
文章来源:https://mp.weixin.qq.com/s/Bs820pSmY5w17Vib__CQiA
京东创始人刘强东和其妻子章泽天最近成为了互联网舆论关注的焦点。有关他们“移民美国”和在美国购买豪宅的传言在互联网上广泛传播。然而,京东官方通过微博发言人发布的消息澄清了这些传言,称这些言论纯属虚假信息和蓄意捏造。
日前,据博主“@超能数码君老周”爆料,国内三大运营商中国移动、中国电信和中国联通预计将集体采购百万台规模的华为Mate60系列手机。
据报道,荷兰半导体设备公司ASML正看到美国对华遏制政策的负面影响。阿斯麦(ASML)CEO彼得·温宁克在一档电视节目中分享了他对中国大陆问题以及该公司面临的出口管制和保护主义的看法。彼得曾在多个场合表达了他对出口管制以及中荷经济关系的担忧。
今年早些时候,抖音悄然上线了一款名为“青桃”的 App,Slogan 为“看见你的热爱”,根据应用介绍可知,“青桃”是一个属于年轻人的兴趣知识视频平台,由抖音官方出品的中长视频关联版本,整体风格有些类似B站。
日前,威马汽车首席数据官梅松林转发了一份“世界各国地区拥车率排行榜”,同时,他发文表示:中国汽车普及率低于非洲国家尼日利亚,每百户家庭仅17户有车。意大利世界排名第一,每十户中九户有车。
近日,一项新的研究发现,维生素 C 和 E 等抗氧化剂会激活一种机制,刺激癌症肿瘤中新血管的生长,帮助它们生长和扩散。
据媒体援引消息人士报道,苹果公司正在测试使用3D打印技术来生产其智能手表的钢质底盘。消息传出后,3D系统一度大涨超10%,不过截至周三收盘,该股涨幅回落至2%以内。
9月2日,坐拥千万粉丝的网红主播“秀才”账号被封禁,在社交媒体平台上引发热议。平台相关负责人表示,“秀才”账号违反平台相关规定,已封禁。据知情人士透露,秀才近期被举报存在违法行为,这可能是他被封禁的部分原因。据悉,“秀才”年龄39岁,是安徽省亳州市蒙城县人,抖音网红,粉丝数量超1200万。他曾被称为“中老年...
9月3日消息,亚马逊的一些股东,包括持有该公司股票的一家养老基金,日前对亚马逊、其创始人贝索斯和其董事会提起诉讼,指控他们在为 Project Kuiper 卫星星座项目购买发射服务时“违反了信义义务”。
据消息,为推广自家应用,苹果现推出了一个名为“Apps by Apple”的网站,展示了苹果为旗下产品(如 iPhone、iPad、Apple Watch、Mac 和 Apple TV)开发的各种应用程序。
特斯拉本周在美国大幅下调Model S和X售价,引发了该公司一些最坚定支持者的不满。知名特斯拉多头、未来基金(Future Fund)管理合伙人加里·布莱克发帖称,降价是一种“短期麻醉剂”,会让潜在客户等待进一步降价。
据外媒9月2日报道,荷兰半导体设备制造商阿斯麦称,尽管荷兰政府颁布的半导体设备出口管制新规9月正式生效,但该公司已获得在2023年底以前向中国运送受限制芯片制造机器的许可。
近日,根据美国证券交易委员会的文件显示,苹果卫星服务提供商 Globalstar 近期向马斯克旗下的 SpaceX 支付 6400 万美元(约 4.65 亿元人民币)。用于在 2023-2025 年期间,发射卫星,进一步扩展苹果 iPhone 系列的 SOS 卫星服务。
据报道,马斯克旗下社交平台𝕏(推特)日前调整了隐私政策,允许 𝕏 使用用户发布的信息来训练其人工智能(AI)模型。新的隐私政策将于 9 月 29 日生效。新政策规定,𝕏可能会使用所收集到的平台信息和公开可用的信息,来帮助训练 𝕏 的机器学习或人工智能模型。
9月2日,荣耀CEO赵明在采访中谈及华为手机回归时表示,替老同事们高兴,觉得手机行业,由于华为的回归,让竞争充满了更多的可能性和更多的魅力,对行业来说也是件好事。
《自然》30日发表的一篇论文报道了一个名为Swift的人工智能(AI)系统,该系统驾驶无人机的能力可在真实世界中一对一冠军赛里战胜人类对手。
近日,非营利组织纽约真菌学会(NYMS)发出警告,表示亚马逊为代表的电商平台上,充斥着各种AI生成的蘑菇觅食科普书籍,其中存在诸多错误。
社交媒体平台𝕏(原推特)新隐私政策提到:“在您同意的情况下,我们可能出于安全、安保和身份识别目的收集和使用您的生物识别信息。”
2023年德国柏林消费电子展上,各大企业都带来了最新的理念和产品,而高端化、本土化的中国产品正在不断吸引欧洲等国际市场的目光。
罗永浩日前在直播中吐槽苹果即将推出的 iPhone 新品,具体内容为:“以我对我‘子公司’的了解,我认为 iPhone 15 跟 iPhone 14 不会有什么区别的,除了序(列)号变了,这个‘不要脸’的东西,这个‘臭厨子’。