欢迎光临
我们一直在努力

别再被网站当机器人了!手把手教你编译一个‘隐身版’Chromedriver(绕过Selenium检测)

从源码到隐身:深度定制Chromedriver绕过检测的工程实践

当你的Selenium脚本突然被目标网站拦截,熟悉的"Access Denied"页面赫然出现时,那种挫败感每个爬虫开发者都深有体会。网站的反爬系统越来越智能,常规的UserAgent轮换和IP代理已经难以应对基于浏览器指纹的高级检测。本文将带你深入Chromium源码层,通过定制编译自己的"隐身版"Chromedriver,从根本上解决被识别为机器人的问题。

1. 为什么你的Selenium脚本总被识别?

现代网站采用的多维度检测机制远比大多数人想象的复杂。除了基础的UserAgent检测外,它们还会检查浏览器环境中的数百个特征点。其中最关键的是WebDriver特有的属性注入。

1.1 WebDriver的"指纹"特征

在常规浏览器中执行以下JavaScript代码:

let regex = /^([a-z]){3}_.*_(Array|Promise|Symbol|JSON|Object|Proxy)$/;
let allProps = Object.getOwnPropertyNames(window);
let filteredProps = allProps.filter(prop => regex.test(prop));
console.log(filteredProps);

正常浏览器会输出空数组[],而通过Chromedriver控制的浏览器则会显示类似这样的结果:

[
'cdc_adoQpoasnfa76pfcZLmcfl_Array',
'cdc_adoQpoasnfa76pfcZLmcfl_Object',
'cdc_adoQpoasnfa76pfcZLmcfl_Promise',
'cdc_adoQpoasnfa76pfcZLmcfl_Proxy',
'cdc_adoQpoasnfa76pfcZLmcfl_Symbol',
'cdc_adoQpoasnfa76pfcZLmcfl_JSON'
]

这些特殊的全局变量正是Chromedriver留下的"指纹",也是大多数检测系统识别自动化工具的关键依据。

1.2 检测技术的演进

网站常用的检测手段包括但不限于:

  • WebDriver特征检测:检查特定全局变量
  • 行为模式分析:鼠标移动轨迹、点击间隔等
  • CDP(Chrome DevTools Protocol)检测:检查开发者工具协议的使用痕迹
  • 插件和API一致性验证:检查navigator.plugins等属性

提示:虽然修改UserAgent和添加–disable-blink-features=AutomationControlled参数能绕过部分基础检测,但对于专业反爬系统效果有限。

2. 编译环境准备:从零搭建Chromium构建系统

要修改Chromedriver的核心行为,我们需要从源码编译。这个过程需要特定的工具链和环境配置。

2.1 系统要求与工具安装

组件版本要求备注
操作系统 Windows 10/11 64位 建议使用纯净系统
内存 ≥16GB 8GB可能导致编译失败
硬盘空间 ≥100GB SSD推荐
Visual Studio 2019或2022 必须包含C++组件
Windows SDK 10.0.20348.0 最新版本可能不兼容
depot_tools 最新版 Chromium专用构建工具

安装步骤:

  • 安装Visual Studio并勾选以下组件:

    • "使用C++的桌面开发"
    • "Windows 10 SDK"
  • 配置depot_tools:

    git clone https://chromium.googlesource.com/chromium/tools/depot_tools.git
    set PATH=%PATH%;<path_to_depot_tools>

  • 验证环境:

    gclient

  • 2.2 获取Chromium源码

    创建一个干净的目录并获取完整代码:

    mkdir chromium && cd chromium
    fetch –no-history chromium

    这个过程会下载约30GB的数据,耗时取决于网络状况。如果中断,可以使用gclient sync继续。

    注意:国内用户可能需要配置代理或使用镜像源,但请确保遵守相关法律法规。

    3. 关键修改:消除WebDriver指纹

    找到源码中的关键文件进行修改是整个过程的核心。

    3.1 定位关键代码

    在源码目录中导航至:

    chrome/test/chromedriver/chrome/devtools_client_impl.cc

    找到以下代码段(约在第70行):

    std::string script = "(function () {"
    "window.cdc_adoQpoasnfa76pfcZLmcfl_Array = window.Array;"
    "window.cdc_adoQpoasnfa76pfcZLmcfl_Object = window.Object;"
    "window.cdc_adoQpoasnfa76pfcZLmcfl_Promise = window.Promise;"
    "window.cdc_adoQpoasnfa76pfcZLmcfl_Proxy = window.Proxy;"
    "window.cdc_adoQpoasnfa76pfcZLmcfl_Symbol = window.Symbol;"
    "window.cdc_adoQpoasnfa76pfcZLmcfl_JSON = window.JSON;"
    "}) ();";
    params.Set("source", script);

    3.2 实施修改

    将上述代码修改为:

    std::string script = "(function () {"
    // 注释掉所有属性注入
    //"window.cdc_adoQpoasnfa76pfcZLmcfl_Array = window.Array;"
    //"window.cdc_adoQpoasnfa76pfcZLmcfl_Object = window.Object;"
    //"window.cdc_adoQpoasnfa76pfcZLmcfl_Promise = window.Promise;"
    //"window.cdc_adoQpoasnfa76pfcZLmcfl_Proxy = window.Proxy;"
    //"window.cdc_adoQpoasnfa76pfcZLmcfl_Symbol = window.Symbol;"
    //"window.cdc_adoQpoasnfa76pfcZLmcfl_JSON = window.JSON;"
    "}) ();";
    params.Set("source", script);

    这个修改移除了Chromedriver注入到window对象的特殊属性,使其在检测脚本面前表现得像普通浏览器。

    4. 编译与优化:生成定制驱动

    完成代码修改后,我们需要编译生成新的Chromedriver可执行文件。

    4.1 生成构建配置

    gn gen out/Default

    编辑生成的args.gn文件,添加以下配置:

    is_debug = false
    symbol_level = 0
    enable_nacl = false

    4.2 开始编译

    执行完整编译:

    autoninja -C out/Default chromedriver

    编译过程可能需要2-6小时,取决于硬件性能。成功完成后,你会在out/Default目录下找到chromedriver.exe。

    4.3 常见编译问题解决

    错误类型解决方案
    内存不足 关闭所有非必要程序,增加虚拟内存
    文件锁定 执行gclient sync –force
    依赖缺失 运行gclient runhooks
    链接错误 检查Visual Studio安装是否完整

    5. 实战验证与高级配置

    编译完成后,需要验证修改是否真正有效。

    5.1 基础测试

    使用Python脚本测试新驱动的隐身效果:

    from selenium import webdriver
    from selenium.webdriver.chrome.service import Service
    import time

    service = Service(r"path\\to\\custom_chromedriver.exe")
    options = webdriver.ChromeOptions()
    options.add_argument("–disable-blink-features=AutomationControlled")

    driver = webdriver.Chrome(service=service, options=options)
    driver.get("https://bot.sannysoft.com")
    time.sleep(5)
    driver.save_screenshot("result.png")
    driver.quit()

    检查截图中的测试结果,理想状态下所有自动化检测项都应显示为"未检测到"。

    5.2 增强隐身性的额外配置

    在options中添加以下参数可以进一步提高隐蔽性:

    options.add_argument("–disable-infobars")
    options.add_argument("–disable-extensions")
    options.add_argument("–disable-gpu")
    options.add_argument("–disable-dev-shm-usage")
    options.add_argument("–no-sandbox")
    options.add_argument("–disable-web-security")
    options.add_argument("–allow-running-insecure-content")
    options.add_argument("–hide-scrollbars")
    options.add_argument("–mute-audio")
    options.add_experimental_option("excludeSwitches", ["enable-automation"])
    options.add_experimental_option("useAutomationExtension", False)

    5.3 浏览器指纹混淆

    除了修改驱动外,还可以通过CDP协议覆盖常见指纹属性:

    driver.execute_cdp_cmd("Page.addScriptToEvaluateOnNewDocument", {
    "source": """
    Object.defineProperty(navigator, 'webdriver', {
    get: () => undefined
    });
    Object.defineProperty(navigator, 'plugins', {
    get: () => [1, 2, 3]
    });
    """
    })

    6. 长期维护与版本管理

    Chromium更新频繁,保持定制驱动的可用性需要建立维护流程。

    6.1 版本对应关系

    Chromedriver版本对应Chrome版本备注
    115.0.5790.170 115.0.5790.170 严格匹配
    114.0.5735.90 114.0.5735.90 小版本也要一致
    113.0.5672.63 113.0.5672.63 向下兼容有限

    6.2 补丁管理策略

  • 为每个定制版本创建git分支
  • 记录所有修改的代码位置
  • 使用diff工具比较版本变更
  • 建立自动化测试验证基础功能
  • 6.3 性能与稳定性考量

    经过修改的驱动在以下方面需要特别关注:

    • 内存泄漏:长时间运行后的资源占用
    • 异常处理:网络波动时的恢复能力
    • 并发性能:多实例运行的稳定性
    • 协议兼容性:与新版本Chrome的配合

    在实际项目中,建议将定制驱动与以下技术结合使用:

    • IP轮换系统:防止基于IP的封禁
    • 浏览器池管理:平衡资源使用
    • 行为模拟库:模拟人类操作模式
    • 验证码处理方案:应对更严格的检测

    通过源码级定制,我们不仅解决了当前的问题,更重要的是掌握了浏览器自动化的底层原理。这种深度技术掌控能力,正是高级开发者与普通用户的本质区别。

    赞(0)
    未经允许不得转载:171主机测评 » 别再被网站当机器人了!手把手教你编译一个‘隐身版’Chromedriver(绕过Selenium检测)
    分享到: 更多 (0)

    评论 抢沙发

    • 昵称 (必填)
    • 邮箱 (必填)
    • 网址