2017년 카카오 blind 코딩 테스트 - 뉴스 클러스터링 python

2017년 카카오 blind 코딩 테스트 - 뉴스 클러스터링 python

문제 설명 : 뉴스 클러스터링 뉴스 클러스터링 여러 언론사에서 쏟아지는 뉴스, 특히 속보성 뉴스를 보면 비슷비슷한 제목의 기사가 많아 정작 필요한 기사를 찾기가 어렵다. Daum 뉴스의 개발 업무를 맡게 된 신입사원 튜브는 사용자들이 편리하게 다양한 뉴스를 찾아볼 수 있도록 문제점을 개선하는 업무를 맡게 되었다. 개발의 방향을 잡기 위해 튜브는 우선 최근 화제가 되고 있는 카카오 신입 개발자 공채 관련 기사를 검색해보았다. 카카오 첫 공채..'블라인드' 방식 채용 카카오, 합병 후 첫 공채.. 블라인드 전형으로 개발자 채용 카카오, 블라인드 전형으로 신입 개발자 공채 카카오 공채, 신입 개발자 코딩 능력만 본다 카카오, 신입 공채.. 코딩 실력만 본다 카카오 코딩 능력만으로 2018 신입 개발자 뽑는다 기사의 제목을 기준으로 블라인드 전형에 주목하는 기사와 코딩 테스트에 주목하는 기사로 나뉘는 걸 발견했다. 튜브는 이들을 각각 묶어서 보여주면 카카오 공채 관련 기사를 찾아보는 사용자에게 유용할 듯싶었다. 유사한 기사를 묶는 기준을 정하기 위해서 논문과 자료를 조사하던 튜브는 자카드 유사도라는 방법을 찾아냈다. 자카드 유사도는 집합 간의 유사도를 검사하는 여러 방법 중의 하나로 알려져 있다. 두 집합 A, B 사이의 자카드 유사도 J(A, B)는 두 집합의 교집합 크기를 두 집합의 합집합 크기로 나눈 값으로 정의된다. 예를 들어 집합 A = {1, 2, 3}, 집합 B = {2, 3, 4}라고 할 때, 교집합 A ∩ B = {2, 3}, 합집합 A ∪ B = {1, 2, 3, 4}이 되므로, 집합 A, B 사이의 자카드 유사도 J(A, B) = 2/4 = 0.5가 된다. 집합 A와 집합 B가 모두 공집합일 경우에는 나눗셈이 정의되지 않으니 따로 J(A, B) = 1로 정의한다. 자카드 유사도는 원소의 중복을 허용하는 다중집합에 대해서 확장할 수 있다. 다중집합 A는 원소 1을 3개 가지고 있고, 다중집합 B는 원소 1을 5개 가지고 있다고 하자. 이 다중집합의 교집합 A ∩ B는 원소 1을 min(3, 5)인 3개, 합집합 A ∪ B는 원소 1을 max(3, 5)인 5개 가지게 된다. 다중집합 A = {1, 1, 2, 2, 3}, 다중집합 B = {1, 2, 2, 4, 5}라고 하면, 교집합 A ∩ B = {1, 2, 2}, 합집합 A ∪ B = {1, 1, 2, 2, 3, 4, 5}가 되므로, 자카드 유사도 J(A, B) = 3/7, 약 0.42가 된다. 이를 이용하여 문자열 사이의 유사도를 계산하는데 이용할 수 있다. 문자열 FRANCE와 FRENCH가 주어졌을 때, 이를 두 글자씩 끊어서 다중집합을 만들 수 있다. 각각 {FR, RA, AN, NC, CE}, {FR, RE, EN, NC, CH}가 되며, 교집합은 {FR, NC}, 합집합은 {FR, RA, AN, NC, CE, RE, EN, CH}가 되므로, 두 문자열 사이의 자카드 유사도 J("FRANCE", "FRENCH") = 2/8 = 0.25가 된다.

출처 : https://programmers.co.kr/learn/courses/30/lessons/17677

문제 풀이

이 문제는 주어진 2개의 문자열에 대해 글자 2개씩으로 된 중복을 허용하는 집합을 만들고 자카드 유사도(교집합/합집합)를 구하는 문제입니다.

집합 set()을 이용해 intersection()과 union()을 이용해 유사도를 계산하면 쉽겠지만, 중요한 건 set은 중복을 허용하지 않는다는게 문제입니다.

그래서 collections.Counter를 이용해서 중복되는 개수를 허용하는 자료형을 씁니다.

또한 collections.Counter는 교집합(&), 합집합(|)을 제공합니다. 

[1] 문제에서 볼 수 있듯이 소문자와 대문자는 무시하므로 lower()를 이용해 문자열을 소문자로 만듭니다.

[2] 문자열에서 앞에서부터 문자 2개씩 끊을 것입니다. 이때 특수문자가 포함되었는지 확인을 해야겠죠.
- 정규화를 활용하기 위해 regex(re) 라이브러리를 활용합니다.
- 소문자가 포함하기 위해 [a-z]를 쓸 것이고, 두 개의 소문자를 포함하기 위해서 [a-z][a-z]로 표현식을 만들고 re.compile(‘[a-z]{2}’)로 pattern을 만들고 search를 이용해 확인합니다.

 - 특수문자가 포함된다면 None을 출력하므로 if문으로 거르면 됩니다.

테스트 1의 결과는
['fr', 'ra', 'an', 'nc', 'ce'] # str1

['fr', 're', 'en', 'nc', 'ch'] # str2

[3] 다음 나온 List를 collections.Counter에 넣습니다.

테스트 1의 경우

Counter({'fr': 1, 'ra': 1, 'an': 1, 'nc': 1, 'ce': 1}) # str1

Counter({'fr': 1, 're': 1, 'en': 1, 'nc': 1, 'ch': 1}) # str2

테스트 3의 경우
Counter({'aa': 2})

Counter({'aa': 3})

[4] &를 이용해 교집합을 구하여 List로 넣고 sum으로 더해버리면 교집합 개수를 구할 수 있습니다. 마찬가지로 |를 이용해 합집합을 구하고 List로 넣어 sum으로 더하면 합집합 개수를 구합니다.

Counter.values()는 값들을 리스트로 반환합니다.

테스트 2의 경우에는

Counter({'ha': 2, 'sh': 1, 'ak': 1, 'ke': 1, 'an': 1, 'nd': 1, 'ds': 1})

dict_values([2, 1, 1, 1, 1, 1, 1]) # intersections.values()
[2, 1, 1, 1, 1, 1, 1] # list(intersections.values())

[5] 자카드 유사도(=교집합/합집합) 반환하면 끝!! :D

import re from collections import Counter pattern = re.compile('[a-z][a-z]')     def preprocessing(content):     result = []     for i in range(0, len(content)-1):         two_letter = content[i:i+2]         if pattern.search(two_letter):             result.append(two_letter)     print(result)     return result     def solution(str1, str2):     # 두 개의 문자열에 대해서 소문자로 처리     str1 = str1.lower()     str2 = str2.lower()         if str1 == str2: # 일치한다면 유사도는 1         return 65536         str1 = preprocessing(str1)     str2 = preprocessing(str2)         counter_1 = Counter(str1)     counter_2 = Counter(str2)                 intersections = counter_1 & counter_2 # 교집합     intersections = sum(list(intersections.values()))         unions = counter_1 | counter_2 # 합집합     unions = sum(list(unions.values()))     return int(intersections/unions * 65536)