用python实现域名资产监控的详细步骤

应用场景

域名资产监控,通过输入一个主域名,找到该域名对应的ip地址所在的服务器的端口开闭情况。通过定期做这样的监控,有助于让自己知道自己的资产的整体暴露面情况。

所需要具备的前缀技能

python的简单使用

linux操作系统的简单使用

DNS的原理

工具

pycharm 专业版

xshell 用于部署脚本

步骤

通过域名得到对应的ip地址

首先,我们知道对于一个域名来说,可以设置很多类型的记录值,比如A记录、AAAA记录、SOA记录、TXT记录等等。安全领域常见的记录值和其含义对应关系如下:

代码 描述
A IPv4地址记录
AAAA IPv6地址记录
CNAME 规范名称记录,一个主机名字的别名:
域名系统将会继续尝试查找新的名字
MX 电邮交互记录
NS 名称服务器记录
PTR 最常用来运行反向DNS查找
SOA 权威记录的起始
TXT 文本记录

而我们要用到的就是A记录(目前IPv6用得不广泛)。

通过A记录,获取到一个域名对应的IP地址,用python实现的方法如下:

def dns_a(domain: str):
    dns_servers = '114.114.114.114,114.114.115.115,223.5.5.5,223.6.6.6,180.76.76.76,119.29.29.29,119.29.29.29,1.2.4.8,210.2.4.8,117.50.11.11,52.80.66.66,101.226.4.6,218.30.118.6,123.125.81.6,140.207.198.6,8.8.8.8,8.8.4.4,9.9.9.9,208.67.222.222,208.67.220.220'.split(
        ',')
    loop = asyncio.new_event_loop()
    resolver = aiodns.DNSResolver(loop=loop)
    resolver.nameservers = dns_servers
    try:
        record_a = loop.run_until_complete(resolver.query(domain, 'A'))
        return record_a
    except:
        pass
    return []

在代码中,为每一次查询随机指定了一个dns_server,也就是dns查询服务器,由于收敛的关系,不同的查询服务器结果可能不相同。所以可以考虑做得完善一些,这里只查询了一次,也可以换多个dns服务器查询多次,取并集(并集是不放过所有可能情况,交集是精确但可能漏)。最终该方法就可以实现获取域名对应的ip地址。

这个方法中使用到了asyncio和aiodns两个包,安装方法如下:

pip install -i https://pypi.tuna.tsinghua.edu.cn/simple/ --trusted-host pypi.tuna.tsinghua.edu.cn asyncio,aiodns

下面我们以www.mengwa.store为例,看看结果如何:

可以发现ip地址有了,不过,还需要从结果中进行提取。方法如下:

record_a = dns_a(domain)
ips = []
if type(record_a) == list:
ips = sorted([answer.host for answer in record_a])

这个ips中存储的就是排序后的解析记录ip列表。

对ip地址进行端口扫描

通过上面的步骤找到了ip地址,下一步就是对ip地址进行端口扫描。可在扫描之前,我们还有一个步骤需要做,需要判断当前ip所在的机器是否存活。

可能你立马就想到了ping方法,可是在安全领域,有很多公司都要求服务器将ICMP协议给阻止掉,也就是说,ping方法可能返回超时,但是机器并不一定没有开启,只是主动给你把请求拦截掉了。

这里我们使用nmap的-sPn参数进行扫描,以www.mengwa.store对应的ip地址47.119.137.0为例:

然后我们通过代码来实现这一逻辑,我们使用python-nmap包,安装步骤如下:

pip install -i https://pypi.tuna.tsinghua.edu.cn/simple/ --trusted-host pypi.tuna.tsinghua.edu.cn python-nmap

代码如下:

def check_ip_reachable(ip: str):
    nm = nmap.PortScanner()
    xx = nm.scan(hosts=ip, arguments='-sP') # -sPn也可以
    if 'scan' in xx:
        i = xx.__getitem__('scan')
        if ip in i:
            j = i.__getitem__(ip)
            if 'status' in j:
                status = j['status']
                if 'state' in status:
                    state = status['state']
                    print(ip, state)
                    return state
    print(ip, 'down')
    return 'down'

做这一步的前提是,你本机安装了nmap。

通过这里做判断,如果ip所在机器是开启状态,那么我们就可以对其进行端口扫描了。

代码如下:

# 实现对端口进行扫描,并且返回结果。使用nmap实现
def port_scan(ip: str):
    second = check_ip_reachable(ip)
    if second is not None and second == 'up':
        nm = nmap.PortScanner()
        xx = nm.scan(ip)
        print(nm.command_line())
        ans = []
        if 'scan' in xx:
            i = xx.__getitem__('scan')
            if ip in i:
                j = i.__getitem__(ip)
                if 'tcp' in j:
                    tcp = j['tcp']
                    for port in tcp:
                        ans.append(port)
        ans = sorted(ans)
        return ans
    else:
        write_to_file('output/' + time_now + '/ips.txt', ip + ' 不可达\n')
    return []

nm.command_line()方法可以打印出当前执行的命令行。(本质上这个包就是一个命令行调用包,然后做解析)

以47.119.137.0为例,结果如下:

这里的方法,使用的是nmap默认扫描的常见端口,如果有需要,也可以通过给Scan方法,加入Ports参数,自定义要扫描的端口,甚至于全端口。

串联起来,实现通过域名到端口监控

def handle_ip(ip: str):
    if not task_ip_set.__contains__(ip):
        try:
            print('ip:' + ip, '开始端口扫描')
            port_result = port_scan(ip)
            val = ''
            print('ip:', ip, '发现端口', port_result)
            for i in port_result:
                val = val + '\n' + ip + "----" + i.__str__()
            write_to_file('output/' + time_now + '/ip_ports.txt', val)
            task_ip_set.add(ip)
        except Exception as e:
            print(e)

def handle_domain(domain: str):
    if not task_domain_set.__contains__(domain):
        print('domain:' + domain)
        record_a = dns_a(domain)
        ips = []
        if type(record_a) == list:
            ips = sorted([answer.host for answer in record_a])
        val = ''
        for i in ips:
            val = val + '\n' + domain + "----" + i.__str__()
        write_to_file('output/' + time_now + '/domain_ips.txt', val)
        print(ips)
        for i in ips:
            handle_ip(i)

这里使用了task_domain_set和task_ip_set用于对作用目标进行去重。

那么,到这里我们的任务完成了吗?

没有

子域名发现

如果我的主域名资产有很多二级域名,而我自己又对自己有哪些子域名不清楚,那么这个时候就需要做子域名发现。然后对每一个子域名调用前面的方法,找到其对应的ip开放的端口。

子域名发现一般来说有三种方法:

第一种通过对主域名所在网站进行爬取,从内容中解析出子域名;

第二种通过外部的查询网站获取结果,比如crt、virustotal、fofa等;

第三种通过字典爆破获取结果,通过不断的轮询dns服务器,查询其是否有A记录的值,如果有,则表明该子域名存在,如果没有则暂时认为该子域名不存在。

第一种方法,需要实现一个爬虫,拿到网站的内容后利用正则表达式提取里面的子域名,提取的方法如下:

def get_subdomains(value: str, domain: str):
    x = f'(?P<subdomain>[a-zA-Z0-9.]+{domain})'
    pattern = re.compile(x)
    y = pattern.findall(value)
    ans = set()
    for i in y:
        ans.add(i)
    print(ans)
    return ans

第二种方法,利用接口调用,参见相关的API接口即可。

第三种方法,子域名爆破。核心代码如下

answers = await self.resolvers[j].query(cur_domain, 'A') # 查找A记录
# 如果A记录有值且没有报错,则说明该子域名存在

当你完成上面的步骤,并且去重之后,就可以将这些子域名作为前面步骤的输入。这样,对于用户需要监控的某个主域名而言,监控到的范围就提升了很多。

请勿用于非已有域名的监控,造成的损失与本人无关。以上测试数据均为本人已有域名和ip。

到此这篇关于用python实现域名资产监控的文章就介绍到这了,更多相关python域名资产监控内容请搜索我们以前的文章或继续浏览下面的相关文章希望大家以后多多支持我们!

(0)

相关推荐

  • Python 实现网课实时监控自动签到、打卡功能

    响应国家停课不停学的号召,学生们都开始了网上授课,但由于课程繁多,消息繁杂,经常错过课堂签到,针对这一难题,博客主作为Python爱好者,完全使用Python语言写了本篇博客,希望能够帮助小伙伴们完成上课签到问题(注:只是帮你签到,而不是叫你代签,我的出发点是帮助记性不是很好的同学签到,防止漏签被老师点名),所以希望大家能理解博主的苦心. 话不多说,献上效果图两张 进入正式教程 ①Python环境 Python3.6及以上版本,需要配备的库requests,json,time 代码运行软件:Py

  • Python3监控疫情的完整代码

    具体代码如下所示: import requests import json from pyecharts.charts import Map, Geo from pyecharts import options as opts from pyecharts.globals import GeoType, RenderType url = 'https://view.inews.qq.com/g2/getOnsInfo?name=disease_h5' datas = json.loads(req

  • python实时监控logstash日志代码

    实时读取logstash日志,有异常错误keywork即触发报警. # /usr/bin/env python3 # -*- coding: utf-8 -*- # __author__ = caozhi # create_time 2018-11-12,update_time 2018-11-15 # version = 1.0 # 录像高可用报警 # 1 读取日志 使用游标移动 # 2 线上业务日志文件会切割,切割后,读取上一个切割的日志 import os import sys impor

  • Python实时监控网站浏览记录实现过程详解

    需求: (1) 获取你对象chrome前一天的浏览记录中的所有网址(url)和访问时间,并存在一个txt文件中 (2)将这个txt文件发送给指定的邮箱地址(你的邮箱) (3)建立例行任务,每天定时自动完成这些操作,你就可以通过邮件查看你对象每天看啥了 准备 macOS Sierra Python3.6 Chrome 发送邮件的qq邮箱地址 qq邮箱授权码 SMTP服务器地址 : smtp.qq.com 接受邮件的邮箱地址 执行: (1) 首先我们用DB Browser for SQLite来看下

  • Python3实现监控新型冠状病毒肺炎疫情的示例代码

    代码如下所示: import requests import json from pyecharts.charts import Map, Geo from pyecharts import options as opts from pyecharts.globals import GeoType, RenderType url = 'https://view.inews.qq.com/g2/getOnsInfo?name=disease_h5' datas = json.loads(reque

  • 基于python监控程序是否关闭

    这篇文章主要介绍了基于python监控程序是否关闭,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友可以参考下 监控一个服务系exe在他关闭后打印,原想可以使用win32process.EnumProcesses()来获取所有程序pid,再根据pid获取的进程名进行对比,来判断程序是否关闭,但遇到个问题,我无法根据pid获取到进程名,除非使用psutil包,可这样又让自己的程序过于臃肿,我又想到去查找c++的例子希望可以得到一些帮助,然而c++的api函数在

  • 用python实现域名资产监控的详细步骤

    应用场景 域名资产监控,通过输入一个主域名,找到该域名对应的ip地址所在的服务器的端口开闭情况.通过定期做这样的监控,有助于让自己知道自己的资产的整体暴露面情况. 所需要具备的前缀技能 python的简单使用 linux操作系统的简单使用 DNS的原理 工具 pycharm 专业版 xshell 用于部署脚本 步骤 通过域名得到对应的ip地址 首先,我们知道对于一个域名来说,可以设置很多类型的记录值,比如A记录.AAAA记录.SOA记录.TXT记录等等.安全领域常见的记录值和其含义对应关系如下:

  • python 获取域名到期时间的方法步骤

    需求: 我要查询百度域名的到期时间或者开始时间 思路分析: 如果在linux系统中直接使用下面命令即可: echo | openssl s_client -servername www.baidu.com -connect www.baidu.com:443 2>/dev/null | openssl x509 -noout -dates|egrep 'notAfter'|awk -F'=|GMT' '{print $2}' 但是这个命令使用python2 的commands执行不成功,所以只能

  • Python激活Anaconda环境变量的详细步骤

    简洁版 Windows10系统下,按Win+R键启动运行,输入cmd,进入命令窗口 输入conda info --envs,查看conda 环境变量的路径,base后边就是环境变量的路径. 接着输入conda activate +上述查到的环境变量路径,激活环境变量. 如果想停止激活Anaconda Python的环境变量,可以使用conda deactivate命令进行停止激活 详细版 第一,Windows10系统下,按Win+R键启动运行,输入cmd,进入命令窗口,输入conda init,

  • Python破解极验滑动验证码详细步骤

    极验滑动验证码 以上图片是最典型的要属于极验滑动认证了,极验官网:http://www.geetest.com/. 现在极验验证码已经更新到了 3.0 版本,截至 2017 年 7 月全球已有十六万家企业正在使用极验,每天服务响应超过四亿次,广泛应用于直播视频.金融服务.电子商务.游戏娱乐.政府企业等各大类型网站 对于这类验证,如果我们直接模拟表单请求,繁琐的认证参数与认证流程会让你蛋碎一地,我们可以用selenium驱动浏览器来解决这个问题,大致分为以下几个步骤 1.输入用户名,密码 2.点击

  • Python开发.exe小工具的详细步骤

    v1.0.0 完成基础框架.初始功能 背景:为了提高日常工作效率.学习界面工具开发,可以将一些常用的功能集成到一个小的测试工具中,供大家使用. 一.环境 Python3,pyinstall pyinstall安装: pip install pyinstaller   (会自动下载future,pywin32,pyinstaller) 或者采用国内镜像 pip install -i https://pypi.douban.com/simple/ pyinstaller(豆瓣源) 二.代码准备,直接

  • 树莓派(python)与arduino串口通信的详细步骤

    树莓派与arduino串口通信 第一步:先设置硬件串口分配给GPIO串口 输入sudo raspi-config命令进入树莓派系统配置界面,选择第三个Interfacing Options 进去选择Serial Port 然后选择关闭串口登录功能,打开硬件串口调试功能 修改配置文件 打开/boot/config.txt文件,输入 sudo vim /boot/config.txt,在最后添加俩行:1.dtoverlay=pi3-miniuart-bt 2.force_turbo=1 然后重启树莓

  • Ubuntu上使用Netdata设置实时性能监控的详细流程

    介绍 Netdata通过可扩展的Web仪表板提供准确的性能监控,可以显示Linux系统上的流程和服务.它监控有关CPU,内存,磁盘,网络,进程等的指标. Netdata一旦安装就不需要额外的配置,但提供了重要的定制.该应用程序的效率和速度旨在与本机控制台管理工具(如vmstat,iostat和htop)相媲美. 本教程中的步骤涵盖了使用其内置Web服务器或可选地使用Nginx成功设置运行Netdata的一台Ubuntu 16.04服务器所需的一切. 准备 要学习本教程,您需要: 一个Ubuntu

  • Python WXPY实现微信监控报警功能的代码

    概述: 本文主要分享一下博主在学习wxpy 的过程中开发的一个小程序.博主在最近有一个监控报警的需求需要完成,然后刚好在学习wxpy 这个东西,因此很巧妙的将工作和学习联系在一起. 博文中主要使用到的技术设计到Python,Redis,以及Java.涉及到的技术看似很多,但是主要的语言是基于Python进行开发的. 架构涉及主要采用了 生产者消费者的涉及模式,使用Redis作为消息队列进行解耦操作. 主要架构涉及如下: 接下来开始介绍一下程序的实现过程,主要讲解wxpy -> python.re

  • 使用python进行服务器的监控

    在linux服务器中,一切皆为文件,就是说,服务器运行的个中信息,其实是可以从某些文件中查询得到的:百度后,你会知道,在Linux系统中,有一个/proc的虚拟文件系统: Linux 系统为管理员提供了非常好的方法,使其可以在系统运行时更改内核,而不需要重新引导内核系统,这是通过/proc 虚拟文件系统实现的./proc 文件虚拟系统是一种内核和内核模块用来向进程(process)发送信息的机制(所以叫做"/proc"),这个伪文件系统允许与内核内部数据结构交互,获取有关进程的有用信息

  • python中watchdog文件监控与检测上传功能

    引言 上一篇介绍完了观察者模式的原理,本篇想就此再介绍一个小应用,虽然我也就玩了一下午,是当时看observer正好找到的,以及还有Django-observer,但Django很久没用了,所以提下这个作为一个笔记. watchdog介绍 Watchdog的中文的"看门狗",有保护的意思.最早引入Watchdog是在单片机系统中,由于单片机的工作环境容易受到外界磁场的干扰,导致程序"跑飞",造成整个系统无法正常工作,因此,引入了一个"看门狗",对

随机推荐