修改get_url

Este commit está contenido en:
zeek 2020-03-22 14:13:23 +08:00
padre 2967957ab8
commit 63d48cab02
Se han modificado 1 ficheros con 4 adiciones y 2 borrados

Ver fichero

@ -80,8 +80,10 @@ def filterlinks(links):
continue
if is_robot(url):
continue
if not ishttp:
url = url_root + url
if not ishttp and url.startswith("/"):
url = url_root + url
elif not ishttp:
url = url_root + '/' + url
tmplinks.append(url)
reslinks = list(set(tmplinks))
return reslinks