본문 바로가기

Memo

검색엔진 위스폰(wispon)

오늘자 뉴스를 읽던 중 서울대 교수와 학생이 만든 검색 엔진인 위스폰(www.wispon.com)에 대한 기사를 보았다.

그럭 저럭 내용을 읽은 후 사이트에 접속해 'blog'로 검색을 해 봤다. 최상위 결과로 올블로그 출력되었다. 그런데 수집기가 무슨 생각인지 아래와 같은 결과를 수집해서 보여준다.

사용자 삽입 이미지
올블로그의 robots.txt는 몇몇 수집에 불필요한 디렉토리에 대한 웹 문서 수집기(crawler)의 접근을 금하고 있다. 추측하기로 수집기가 해당 디렉토리에 접근하면 저런 메시지를 보여 주는 듯 하다. 아니면 봇이라 판단하면 모두 저런 메시지를 돌려 주든가. 어쨌든 수집기에게 이런 저런 이야기를 한다는 발상도 재미있고(아마 수집기 로그를 보고 개발자가 생각 좀 하란 뜻일 듯), 또 멀쩡한 사이트 타이틀 대신 저걸 수집한 수집기도 재미있다.

사용자 삽입 이미지