修改get_url

This commit is contained in:
zeek 2020-03-22 14:13:23 +08:00
förälder 2967957ab8
incheckning 63d48cab02
1 ändrade filer med 4 tillägg och 2 borttagningar

Visa fil

@ -80,8 +80,10 @@ def filterlinks(links):
continue
if is_robot(url):
continue
if not ishttp:
url = url_root + url
if not ishttp and url.startswith("/"):
url = url_root + url
elif not ishttp:
url = url_root + '/' + url
tmplinks.append(url)
reslinks = list(set(tmplinks))
return reslinks