[Programmers/파이썬] 프로그래머스(Lv.2) 뉴스 클러스터링 문제풀이

뉴스 클러스터링

여러 언론사에서 쏟아지는 뉴스, 특히 속보성 뉴스를 보면 비슷비슷한 제목의 기사가 많아 정작 필요한 기사를 찾기가 어렵다. Daum 뉴스의 개발 업무를 맡게 된 신입사원 튜브는 사용자들이 편리하게 다양한 뉴스를 찾아볼 수 있도록 문제점을 개선하는 업무를 맡게 되었다.

개발의 방향을 잡기 위해 튜브는 우선 최근 화제가 되고 있는 "카카오 신입 개발자 공채" 관련 기사를 검색해보았다.

• 카카오 첫 공채..'블라인드' 방식 채용
• 카카오, 합병 후 첫 공채.. 블라인드 전형으로 개발자 채용
• 카카오, 블라인드 전형으로 신입 개발자 공채
• 카카오 공채, 신입 개발자 코딩 능력만 본다
• 카카오, 신입 공채.. "코딩 실력만 본다"
• 카카오 "코딩 능력만으로 2018 신입 개발자 뽑는다"

기사의 제목을 기준으로 "블라인드 전형"에 주목하는 기사와 "코딩 테스트"에 주목하는 기사로 나뉘는 걸 발견했다. 튜브는 이들을 각각 묶어서 보여주면 카카오 공채 관련 기사를 찾아보는 사용자에게 유용할 듯싶었다.

유사한 기사를 묶는 기준을 정하기 위해서 논문과 자료를 조사하던 튜브는 "자카드 유사도"라는 방법을 찾아냈다.

자카드 유사도는 집합 간의 유사도를 검사하는 여러 방법 중의 하나로 알려져 있다. 두 집합 A, B 사이의 자카드 유사도 J(A, B)는 두 집합의 교집합 크기를 두 집합의 합집합 크기로 나눈 값으로 정의된다.

예를 들어 집합 A = {1, 2, 3}, 집합 B = {2, 3, 4}라고 할 때, 교집합 A ∩ B = {2, 3}, 합집합 A ∪ B = {1, 2, 3, 4}이 되므로, 집합 A, B 사이의 자카드 유사도 J(A, B) = 2/4 = 0.5가 된다. 집합 A와 집합 B가 모두 공집합일 경우에는 나눗셈이 정의되지 않으니 따로 J(A, B) = 1로 정의한다.

자카드 유사도는 원소의 중복을 허용하는 다중집합에 대해서 확장할 수 있다. 다중집합 A는 원소 "1"을 3개 가지고 있고, 다중집합 B는 원소 "1"을 5개 가지고 있다고 하자. 이 다중집합의 교집합 A ∩ B는 원소 "1"을 min(3, 5)인 3개, 합집합 A ∪ B는 원소 "1"을 max(3, 5)인 5개 가지게 된다. 다중집합 A = {1, 1, 2, 2, 3}, 다중집합 B = {1, 2, 2, 4, 5}라고 하면, 교집합 A ∩ B = {1, 2, 2}, 합집합 A ∪ B = {1, 1, 2, 2, 3, 4, 5}가 되므로, 자카드 유사도 J(A, B) = 3/7, 약 0.42가 된다.

이를 이용하여 문자열 사이의 유사도를 계산하는데 이용할 수 있다. 문자열 "FRANCE"와 "FRENCH"가 주어졌을 때, 이를 두 글자씩 끊어서 다중집합을 만들 수 있다. 각각 {FR, RA, AN, NC, CE}, {FR, RE, EN, NC, CH}가 되며, 교집합은 {FR, NC}, 합집합은 {FR, RA, AN, NC, CE, RE, EN, CH}가 되므로, 두 문자열 사이의 자카드 유사도 J("FRANCE", "FRENCH") = 2/8 = 0.25가 된다.

입력 형식

• 입력으로는 str1과 str2의 두 문자열이 들어온다. 각 문자열의 길이는 2 이상, 1,000 이하이다.
• 입력으로 들어온 문자열은 두 글자씩 끊어서 다중집합의 원소로 만든다. 이때 영문자로 된 글자 쌍만 유효하고, 기타 공백이나 숫자, 특수 문자가 들어있는 경우는 그 글자 쌍을 버린다. 예를 들어 "ab+"가 입력으로 들어오면, "ab"만 다중집합의 원소로 삼고, "b+"는 버린다.
• 다중집합 원소 사이를 비교할 때, 대문자와 소문자의 차이는 무시한다. "AB"와 "Ab", "ab"는 같은 원소로 취급한다.

출력 형식

입력으로 들어온 두 문자열의 자카드 유사도를 출력한다. 유사도 값은 0에서 1 사이의 실수이므로, 이를 다루기 쉽도록 65536을 곱한 후에 소수점 아래를 버리고 정수부만 출력한다.

예제 입출력

str1str2answer

FRANCE	french	16384
handshake	shake hands	65536
aa1+aa2	AAAA12	43690
E=M*C^2	e=m*c^2	65536

 

 

---

문제 푸는데 걸린 시간

34분

 

사고 흐름

문자열을 끊어서 집합에 저장하고 합집합, 교집합을 해야겠다

-> 하지만 집합에는 중복 요소가 들어갈 수 없고, 옛날에 했던 것 같은데 기억이 안나서 패스 

-> 문자열 길이가 1000 이하로 짧아 리스트로 반복문을 돌려도 되겠다

-> 그래서 str1을 돌면서 공통 원소(in)가 있으면 교집합, 합집합 카운트하고 원소 삭제, 공통 원소가 아니면 합집합 카운트하고 원소 삭제

 

 

문제 핵심과 알고리즘

문자열에서 원하는 요소를 효율적으로 추출하고, 두 리스트를 비교해 원하는 요소를 가져오는 리스트 활용 문제. 하지만 set으로 푸는게 정말 출제자의 의도 같긴하다. set에서 중복 원소들을 처리하는 방법에 대해 물어보는 문제

def solution(str1, str2):
    answer = 0
    a, b = 0, 0
    str1_list, str2_list = make_set(str1), make_set(str2)
    
    if (len(str1_list)==0 and len(str2_list)==0) :
        return 65536

    while (1) :
        if (len(str1_list)==0 ) :
            break
        front=str1_list[0]
        if front in str2_list :
            a += 1
            b += 1
            str1_list.pop(0)
            str2_list.pop(str2_list.index(front))
        else :
            b += 1
            str1_list.pop(0)

    b+=len(str2_list)
    answer=int(a/b*65536)
    
    return answer

def make_set(string) :
    str_set=[]
    for i in range(len(string)-1) :
        if (string[i].isalpha() and string[i+1].isalpha()) :
            str_set.append(string[i].lower()+string[i+1].lower())

    return str_set

 

문제 풀면서 헤맸던 부분

1. 리스트에서 index 찾기

  답답해서 구글링을 했던 부분이다.. list.index(요소) 이렇게 하면 리스트에서 요소가 가지고 있는 index를 return 해준다. 꼭 기억하자..

2. 리스트 pop하고 index 변화

  원래 for문으로 리스트 순서대로 돌려고 했는데, pop을 했고 다음 인덱스는 따로 +1로 돼서 서로 안맞았다.. while문으로 맨날 list의 첫번째 원소를 가리키게 했지만, 더 효율적인 방법이 있을 것 같다..

 => for문과 pop을 사용할 때는 주의하기! 예를들어 pop하고 원소가 사라져 index 변화하는 부분 고려하기, 리스트의 길이라던가,,

 

 

다른 사람들 풀이 참고하며 배운 점

import re
import math

def solution(str1, str2):
    str1 = [str1[i:i+2].lower() for i in range(0, len(str1)-1) if not re.findall('[^a-zA-Z]+', str1[i:i+2])]
    str2 = [str2[i:i+2].lower() for i in range(0, len(str2)-1) if not re.findall('[^a-zA-Z]+', str2[i:i+2])]

    gyo = set(str1) & set(str2)
    hap = set(str1) | set(str2)

    if len(hap) == 0 :
        return 65536

    gyo_sum = sum([min(str1.count(gg), str2.count(gg)) for gg in gyo])
    hap_sum = sum([max(str1.count(hh), str2.count(hh)) for hh in hap])

    return math.floor((gyo_sum/hap_sum)*65536)

이 풀이는 먼저 findall로 문자열을 추출하고 슬라이싱으로 코드를 간단하게 줄였고,

그리고 set을 사용했는데, 중복 원소들 카운트를 위해 각 원소를 돌면서 그 원소의 개수를 min, max했다

대박.. 난 왜 생각을 못했을까..ㅠ 

list.count(a) : list에서 a의 개수 return

 

(2023/03/14에 다시 풀어본 코드)

from collections import Counter
def solution(str1, str2):
    answer = 0
    str1=Counter(make_set(str1))
    str2=Counter(make_set(str2))
    
    inter=sum(list((str1&str2).values()))
    union=sum(list((str1|str2).values()))

    if len(str1)==0 and len(str2)==0 :
        return 65536
    return int((inter/union)*65536)

def make_set(str1) :
    strlist=[]
    for i in range(len(str1)-1) :
        if str1[i:i+2].isalpha() :
            strlist.append(str1[i:i+2].lower())
    return strlist

우와 확실히 문자열과 counter객체를 처리하는 실력이 늘었다. 문자열 슬라이싱을 적절히 해서 코드가 간결해졌고, 무엇보다도 counter 객체에 대한 활용을 잘 했다. 사실 counter가 +, -는 가능한 걸 알고있었지만 혹시나하고 and와 or을 해봤는데 됐다..! 그래서 value를 추출해 그 합을 구해서 정답을 구했다.