url地址怎么获取(网页url地址怎么获取)

   2023-05-28 互联网0
核心提示:大黑客呢?肯定会自己写脚本,不要一条一条的去敲命令,这里简单的利用lynx这个命令的应用来提取特点的web页面中的一系列的url, 你看把,这是小编的编辑器,不错把,挺漂亮的颜色,小编挺幸苦搞这个编辑器,给小编加个油吧,文章最后我会贴出源代

url地址怎么获取(网页url地址怎么获取)

大黑客呢?肯定会自己写脚本,不要一条一条的去敲命令,这里简单的利用lynx这个命令的应用来提取特点的web页面中的一系列的url,

你看把,这是小编的编辑器,不错把,挺漂亮的颜色,小编挺幸苦搞这个编辑器,给小编加个油吧,文章最后我会贴出源代码!!

我来说说这个脚本的工作原理

在显示页面时候,lynx会以最佳的格式显示页面文本,它可以跟随页面上的所有超文本引用或链接。该脚本在提取链接的时候,只使用sed打印出页面文本中references字符串之后的所有内容。然后根据用户指定的选项来处理链接列表。

上面的只是我在linux里写的一些代码,等等我会把源代码放出来,不懂的可以问问我,提取网页的链接其实是很有用的。

我们运行一下我写的代码

你看从百度的网站找到这么多链接,是不是挺有成就感的!!!!

Bash getlinks.sh http://www.amazon.com | wc –l

还能统计有多少条链接,亚马孙的一共有134条链接。

Bash getlinks.sh -d htt://www.baidu.com

这个去掉了前面的http://,就可以看见这些链接指向了多少不同的域。

你看吧,效果很不错吧!!!

写在最后,我们是做教育的,希望大伙能学到东西是我们不变的初衷!!最后我先把代码贴出来:

#!/bin/bash

#Date 2019-09-22

if [ $# -eq 0 ];then

echo “Usage:$0 [-d|-i|-x] url” >&2

echo “-d=domains only,-i=internal refs only,-x=external only” >&2

exit 1

fi

if [ $# -gt 1 ];then

case “$1″ in

-d) lastcmd=”cut -d/ -f3 | sort |uniq”

shift

;;

-r) basedomain=”http://$(echo $2 | cut -d -f3)/”

lastcmd=”grep ”^$basedomain” | sed ”s|$basedomain||g” | sort|

uniq”

shift

;;

-a) basedomain=”http://$(echo $2 | cut -d/ -f3)/”

lastcmd=”grep -v ”^$basedomain” | sort | uniq”

shift

;;

*) echo “$0 unknown option specified: $1″ >&2

exit 1

esac

else

lastcmd=”sort | uniq”

fi

lynx -dump “$1” |

sed -n ‘/^References$/,$p’ |

grep -E ‘[[:digit:]]+.’ |

awk ‘{print $2}’ |

cut -d? -f1 |

eval $lastcmd

exit 0

 
标签: 地址 脚本 代码
反对 0举报 0 评论 0
 

免责声明:本文仅代表作者个人观点,与爱美生活网(本网)无关。其原创性以及文中陈述文字和内容未经本站证实,对本文以及其中全部或者部分内容、文字的真实性、完整性、及时性本站不作任何保证或承诺,请读者仅作参考,并请自行核实相关内容。
    本网站有部分内容均转载自其它媒体,转载目的在于传递更多信息,并不代表本网赞同其观点和对其真实性负责,若因作品内容、知识产权、版权和其他问题,请及时提供相关证明等材料并与我们留言联系,本网站将在规定时间内给予删除等相关处理.

  • 亲爱的老师在线观看视频(两个人的免费HD完整)
    亲爱的老师在线观看视频(两个人的免费HD完整)
    全集在线观看地址上有我看了,蛮不错的 不能的这说明这个心很花00 只是尊重你而已,难道你想要一个随时随地都能拉你啪啪啪的种马做男友妹子别想太多 在线高清观看/下载爱无限DVD版全集爱无限主要演员潘玮柏张榕容林佑威|影片类型港台剧|所在地区台
  • 所谓上网冲浪冲浪是什么意思(冲浪网上浏览器上)
    所谓上网冲浪冲浪是什么意思(冲浪网上浏览器上
    所谓上网冲浪中冲浪是的意思:在Internet互联网上获取各种信息,进行工作、娱乐,在英文中上,因surfing的意思是冲浪,即称为网上冲浪,这是一种形象的说法。网上冲浪的主要工具是浏览器,在浏览器的地址栏上输入URL地址,在web页面上可
  • 怎么改wifi密码网站(密码路由器修改标)
    怎么改wifi密码网站(密码路由器修改标)
    改wifi密码网站的方法是:  1、打开浏览器,在地址上输入192.168.1.1(具体参考路由器说明书的地址)进入路由器,默认登录账号和密码都是admin,修改过密码的请输入修改之后的密码。  2、进入路由器的服务器,选择无线设置,无线安
  • 微信里怎么拍带地址的照片(点击地址所在城市)
    微信里怎么拍带地址的照片(点击地址所在城市)
    微信分享图片时,才能带上地址。方法如下:1、进入微信朋友圈,点击右上角的分享按钮,选择拍摄或从相册选择,点击完成;2、点击“显示所在城市”,微信会定位所在城市;3、点击右上角“发送”。结果在朋友圈中成功显示带有地址的照片。
  • 菖蒲河公园地址在哪里(菖蒲皇城金水水道)
    菖蒲河公园地址在哪里(菖蒲皇城金水水道)
    1、处于北京菖蒲河公园位于天安门东侧,开放于2002年9月2、菖蒲河,又名外金水河,因河中生长菖蒲而得名。菖蒲河系明清皇城中外金水河的东段是皇城水系组成部分。河由西苑中海太液池南端流出,折向东南,经过天安门前,再沿皇城南墙北侧向东汇入御河,
  • 中山吃海鲜有什么好介绍(海鲜地址中山路乳)
    中山吃海鲜有什么好介绍(海鲜地址中山路乳)
    1、棠记海鲜餐厅的清蒸金边龙俐鱼、原个蒸膏蟹、姜汁炆河豚、白灼白虾;地址:崖口沙头冲海边;2、海鲜佬餐厅的三文鱼刺身、乳鸽;地址:乐怡路锦绣广场一楼;3、海港城海鲜大酒楼的中山乳鸽、虾饺;地址:中山路65号;4、江畔龙门海鲜蒸汽火锅的帝王蟹
  • 福州仓山圆通快递(福州市地址山区电)
    福州仓山圆通快递(福州市地址山区电)
    圆通快递例如:地址:福州市仓山区东林支巷,电话:95554;地址:石边路52号夏沁苑3幢1层,电话:95554;地址:福州市仓山区金色康城2202,电话:95554;地址:福州市仓山区阳岐路67号3号楼3,电话:95554;地址:福州市仓山
  • 已连接但无法访问互联网(解锁互联网访问异常的应对方式)
    已连接但无法访问互联网(解锁互联网访问异常的
    家里的wifi总是“已连接但无法访问互联网”怎么回事?这个问题说难不难,简单几步就能排查出问题的。 首先咱们要了解手机通过WiFi上网需要经过哪些软硬件,硬件包含光猫(小区宽带也是路由)、家庭路由器和移动WiFi端设备(手机);软件包
  • 换个地方光猫不能连网吗(路由器地址换个连)
    换个地方光猫不能连网吗(路由器地址换个连)
    1、换个地方只要ip地址没有更换就可以上网,如果ip地址更换了可能会无法上网。导致光猫的IP地址和路由器的地址冲突导致不能连网。2、处理方法如下;先关闭光猫,让路由器和电脑相连接.输入路由器的地址192.168.1.1后,输入账号,密码进入
  • 太原哪里的米线最好吃特色的(太原市米线地址过)
    太原哪里的米线最好吃特色的(太原市米线地址过
    1、阿香米线。地址:太原市杏花岭区解放路175号万达广场。2、大鼓米线。地址:太原市小店区体育西路288号茂业天地。3、桥家园云南过桥米线。地址:建设南路206号中正花园阳光商铺16号。4、桥上郎米线平阳景苑店。地址:太原市小店区平阳路65
点击排行