Warning: mkdir(): Permission denied in /home/virtual/lib/view_data.php on line 81

Warning: fopen(upload/ip_log/ip_log_2024-06.txt): failed to open stream: No such file or directory in /home/virtual/lib/view_data.php on line 83

Warning: fwrite() expects parameter 1 to be resource, boolean given in /home/virtual/lib/view_data.php on line 84
Survey of dental students’ perception of ubiquitous-based test (UBT)

J Korean Dent Assoc > Volume 62(5); 2024 > Article
유비쿼터스기반시험(ubiquitous-based test)에 대한 치의학과 학생들의 인식 조사

Abstract

This study aimed to investigate the perceptions of dental students in a dental school where the ubiquitous-based test (UBT) system has been implemented for several years. The research explored differences in perceptions based on respondents' characteristics and identified possibilities for improving the UBT system.
This study surveyed fourth-year dental students who had taken the UBT exams for two years. A questionnaire covered respondent characteristics, UBT system perceptions, convenience, reliability, and comparison of UBT and paper-based test (PBT). The responses were measured on a 5-point Likert scale for all items except for some respondent characteristics. Analysis employed descriptive statistics, chi-square tests, independent t-tests, and Spearman's correlation at a significance-level of p<0.05.
A total of 157 responses were analyzed, including 86 respondents in 2021 and 71 in 2022. The respondents' general characteristics were similar across both years. Students exhibited positive perceptions towards the introduction of the UBT system and its convenience. However, their preference for UBT over PBT was less pronounced. Female students had higher tablet ownership rates than males. Gender-based and tablet ownership-based differences were observed in several items, such as tablet usage frequency and interest in new technologies. The strong correlations were identified between PBT and UBT assessment results.
With user-centered interface enhancements and the incorporation of multimedia items, the UBT system will be effectively utilized in dental education as a valuable tool for both instruction and assessment.

Ⅰ. 서론

정보통신기술의 발전에 따른 지식의 습득과 활용 방식의 변화는 치의학교육 환경에도 영향을 주고 있다. 과거의 치의학교육은 주로 전통적인 강의실 환경에서 인쇄된 지면을 통해 지식의 전달과 평가가 이루어졌다. 그러나 최근에는 온라인 수업, 모바일 학습 애플리케이션, 시뮬레이션 소프트웨어 등 다양한 멀티미디어 자료를 활용하여 현실적인 상황을 재현하고 실습하는 것이 가능해지면서 학생들의 학습 경험은 크게 변화하고 있다.
이러한 교육 환경의 변화는 교육과정 중 이루어지는 평가 방식에도 영향을 주고 있다. 이에 따라 컴퓨터 기반 시험(Computer-based test, CBT)이 기존의 지필시험(Paper-based test, PBT)을 대체하고 있는 추세이다. CBT에서는 문항의 제시, 응답의 입력, 평가결과의 분석이 모두 인쇄된 종이가 아닌 컴퓨터를 통해 이루어진다. 미국의 경우 이미 1999년부터 의사면허시험에 CBT를 도입하였으며, 우리나라에서도 2022년 1월에 시행된 의사 국가시험을 시작으로 2023년에는 치과의사 국가시험과 한의사 국가시험도 CBT 형식으로 시행되었다. 2024년부터는 조산사와 한약사 등 7개 분야 보건의료인 국가시험도 CBT 형식으로 시행될 예정이다. 이에 따라 보건의료인 교육 현장에서도 CBT의 도입과 활용 방안에 대한 관심이 높아지고 있다.
CBT는 전통적인 PBT에 비해 채점과 시험결과 분석에 필요한 자원을 절감할 수 있고, 하며, 신속한 피드백으로 교육성과 및 평가문항에 대한 진단과 평가에 용이하고, 다양한 멀티미디어를 활용한 문항 제시가 가능하다는 장점이 있다[1~3]. 하지만 아직까지 치의학교육 현장에서 CBT의 활용은 제한적이다. CBT 시스템 구축을 위한 초기 비용, 장비를 위한 공간의 확보, 새로운 평가 방식에 대한 수용성과 신뢰도 등이 CBT의 활용이 확대되는데 저해 요인으로 작용하고 있는 것으로 보인다[1,4,5].
이동형 스마트 기기의 지속적인 성능의 향상으로 태블릿 PC, 스마트폰 등이 전통적인 데스크탑 컴퓨터를 대체하고 있다. 전통적인 CBT 시스템에서 사용되던 데스크탑 컴퓨터 대신 스마트 기기를 사용한 시험 방식을 유비쿼터스기반시험(ubiquitous-based test, UBT)라고 한다. UBT는 장비의 설치와 운영을 위해 별도의 공간을 필요로 하지 않고 기기의 이동이 자유로워 강의실, 실습 현장 등 다양한 환경에서 사용이 가능하다는 장점을 가지고 있다. 따라서 전통적인 교육 환경에서도 도입하기가 용이하기 때문에 기존의 PBT을 대체할 수 있는 수단으로 주목받고 있다[6].
새로운 평가 방식인 UBT를 도입하고 활용하는 과정에는 여전히 다양한 과제와 어려움이 존재한다. 시스템의 안정성, 응시자들의 수용성, 사용의 편의성, 평가 결과의 신뢰성 등에 대한 검토가 필요하다. 그러나 아직까지 치의학교육 현장에서 UBT의 활용과 검증은 부족한 실정이다. 본 연구는 저자들이 속한 치의학전문대학원에서 다년간 시행되고 있는 UBT에 대한 치의학과 학생들의 인식을 조사하고 응답자의 특성에 따른 인식의 차이를 알아보고자 하였다. 이를 통해 UBT 시스템의 장단점을 파악하고 UBT 시스템의 개선과 치의학교육에서 활용 방안을 모색해 보았다.

Ⅱ. 연구 대상 및 방법

본 연구에서는 저자들이 속한 치의학전문대학원에서 매년 UBT 형식으로 시행되고 있는 졸업종합시험에 응시하는 최근 2년간의 학생들을 대상으로 설문조사를 실시하였다. 연구목적 및 방법 등에 연구수행 전반에 관하여 부산대학교 기관생명윤리위원회의 승인(IRB No. 2021_154_HR)을 획득하였다. 본 치의학전문대학원은 졸업 전 역량평가를 위해 치과의사 국가시험 필기시험 형식의 졸업종합시험을 매년 4학년 2학기 때 시행하고 있다. 졸업종합시험은 총 2회에 걸쳐 시행된다. 1차 시험은 인쇄된 문제지와 OMR 카드를 이용한 PBT 방식으로 시행되고, 2차 시험은 UBT 시스템(NSDevil Co., Seoul, Republic of Korea)을 이용하여 시행된다. UBT 시스템에 사용되는 태블릿 PC(ET1012N, Foxconn, New Taipei, Taiwan)는 시험을 위해 학생들에게 제공된다. 1차 시험과 2차 시험의 문항은 상이하게 출제되지만 시험과목, 과목별 문항 수, 시험 시간표, 문항 형태(객관식 5지 선다형) 등은 치과의사 국가시험과 동일하게 구성된다. 설문은 2차 시험 종료 직후 온라인 설문도구를 이용하여 시행되었다. 설문 응답 대상자인 졸업종합시험 응시자는 2021년도에는 86명이었고, 2022년도에는 71명이었다.
설문도구는 크게 5개의 영역으로 구성되었으며, 응답자 특성(6문항), UBT 시스템 도입에 대한 인식(21문항), UBT 시스템의 편리성(9문항), UBT 시스템의 신뢰도(2문항), UBT와 PBT의 비교(5문항)에 관한 문항을 포함하였다(Table 1). 성별, 연령, 입학 유형, 태블릿 PC 소유 여부를 묻는 문항을 제외한 문항은 Likert 5점 척도를 사용하여 ‘매우 그렇다(5점), 그렇다(4점), 보통이다(3점), 그렇지 않다(2점), 전혀 그렇지 않다(1점)’로 평가되었다.
설문결과의 분석을 위해 기술적 통계 분석을 실시하였으며, 5점 척도 문항에 대해서는 평균과 표준편차를 구하였다. 연도 간 응답결과의 비교를 위해서 항목별로 카이제곱 검정 또는 independent t-test를 시행하였다. 응답자의 특성 중 성별, 입학 유형, 태블릿 PC의 보유 여부에 따른 항목별 응답결과의 차이를 확인하기 위해서 independent t-test를 시행하였다. 1차 PBT와 2차 UBT 평가결과의 상관성을 분석을 위해서 1차 시험과 2차 시험의 석차 결과를 이용해 Spearman 상관분석을 시행하였다. 자료의 분석에는 SPSS version 25.0 (SPSS Inc., Chicago, USA)를 사용하였으며, 유의수준은 p값 0.05 미만으로 설정하였다.

Ⅲ. 결과

설문조사의 전체 결과는 Table 2에 요약되어 있다. 2021년 응답 대상자 86명과 2022년 응답 대상자 71명이 모두 설문에 참여하여 총 157명의 응답이 분석되었다. 응답자의 일반적인 특성과 관련하여 2021년과 2022년의 분포는 유사하였다. 성별은 남학생(2021년 57.0%; 2022년 50.7%)과 여학생(2021년 43.0%; 2022년 49.3%)의 비율이 비슷하였다. 응답자의 평균 나이는 2021년은 28.9세, 2022년은 27.8세였다. 입학유형은 학석사통합과정(2021년 39.5%; 2022년 43.7%) 보다 석사과정(2021년 60.5%; 2022년 56.3%)이 약간 많았다. 태블릿 PC의 보유율은 2021년 77.9%에서 2022년 85.9%로 증가하는 양상을 보였다. 한편, 성별에 따른 태블릿 PC 보유율의 경우는 2021년과 2022년 모두에서 여학생의 태블릿 PC 보유율이 남학생 보다 높았다(Fig. 1).
UBT 시스템의 도입에 대한 인식과 관련된 항목 중에는 ‘항목19. UBT 시스템 사용을 위한 인터넷 등 개인 환경’(2021년 평균 4.22; 2022년 평균4.27)에 대한 응답점수가 가장 높았다. 반면, ‘항목26. PBT 대신 UBT를 사용하고 싶다’(2021년 평균 3.30; 2022년 평균 3.39)에 대한 응답점수는 다른 항목에 비해 상대적으로 낮게 나타났다. UBT 시스템의 편리성과 관련된 항목 중에서는 ‘항목34. 답안 수정의 편리성’(2021년 평균 3.85; 2022년 평균 4.01), ‘항목35. 문제 풀이 상황의 파악’(2021년 평균 3.87; 2022년 평균 4.00)에 대한 응답점수는 높게 나타났지만, ‘항목29. 시스템의 안정성’(2021년 평균 3.44; 2022년 평균 3.39)에 대한 응답점수는 상대적으로 낮았다. UBT 시스템의 신뢰도와 관련된 항목들에 대해서는 모두 평균 4점 이상으로 긍정적인 반응을 보였다. UBT와 PBT의 비교와 관련해서는 ‘항목41. UBT 시험 중 목, 어깨 등의 피로’(2021년 평균 3.90; 2022년 평균3.61)에 대한 응답점수가 상대적으로 높았다. ‘항목43. UBT를 PBT보다 선호한다’는 2021년 평균 2.92, 2022년 평균 3.31로 모든 설문 항목 중 가장 낮은 응답점수를 나타냈다.
항목별 응답 결과에 대해 2021년과 2022년를 비교한 결과 2개 항목에서만 통계적으로 유의한 차이가 관찰되었다. ‘항목31. 제시된 자료(그림 등)를 보기 편리했다’는 2021년 평균 4.00에서 2022년 평균 3.58로 감소하였다. 반면, ‘항목42. UBT가 PBT보다 편리하다’는 2021년 평균 3.06에서 2022년 평균 3.49로 상승하였다.
성별, 입학 유형, 태블릿 PC의 보유 여부에 따른 비교를 위해서는 2021년과 2022년의 응답 결과를 통합하였으며, 분석결과는 Table 3에 요약되어 있다. 성별에 따라 응답 결과에 유의한 차이가 관찰된 항목은 항목6, 항목17, 항목23, 항목24, 항목25이었다. 그 중 ‘항목6. 평소 태블릿 PC 사용 빈도’, ‘항목17. UBT 시스템 사용을 위한 개인 장비의 구비’에서만 여학생이 남학생보다 높게 나타났으며, 나머지 항목에서는 여학생이 남학생보다 낮았다. 입형 유형과 관련해서는 ‘항목30. 문제 읽기의 편리성’에서만 유의한 차이가 있었으며, 학석사통합과정 학생의 응답 점수(평균 3.86)가 석사과정 학생의 응답점수(평균 3.47) 보다 높았다. 태블릿 PC의 보유 여부에 따라 유의한 차이가 관찰된 항목은 항목5, 항목6, 항목17, 항목18, 항목20, 항목23이었고, 모든 항목에서 태블릿 PC를 보유한 학생의 응답점수가 태블릿 PC를 보유하지 않은 학생의 응답 점수보다 높았다.
1차 PBT와 2차 UBT 평가결과의 상관성을 분석한 결과 1차 시험 석차와 2차 시험 석차의 상관계수가 2021년 0.885, 2022년 0.811로 높은 상관관계를 나타냈으며, 모두 통계적으로 유의하였다(p<0.001)(Fig. 2).

Ⅳ. 고찰

본 연구에서는 저자들이 속한 치의학전문대학원에서 다년간 시행되고 있는 치과의사 국가시험 형태의 UBT에 응시한 학생들의 경험을 바탕으로 UBT 시스템에 대한 학생들의 인식을 조사하고 UBT 시스템의 개선과 활용 방안을 모색하고자 하였다. 본 연구는 최근 보건의료인 국가 시험에 CBT의 사용이 확산되고 있는 시점에서 새로운 평가도구에 대한 학생들의 인식을 조사했다는 점에서 의의가 있다. 비록 UBT 시스템의 경우 전통적인 CBT와는 달리 태블릿 PC를 사용한다는 점에서는 차이가 있지만, 유사한 인터페이스에서 시험이 진행되기 때문에 새로운 평가 환경에 대한 학생들의 반응을 살펴볼 수 있는 기회가 되었다. 인쇄된 지면을 사용한 평가가 일반적인 일선 교육 현장에서 새로운 평가도구에 대한 학생들의 인식 조사는 평가도구를 지속적으로 개선하고 평가 과정과 결과에 대한 학생들의 신뢰를 확보하기 위해 중요한다.
2021년과 2022년 두 해 동안 조사한 결과에서 대부분의 항목은 유사한 응답결과를 보였다. UBT 시스템의 도입에 대한 인식과 관련된 항목들은 모두 평균 3점 이상으로 학생들이 UBT 시스템의 도입에 대해 긍정적으로 평가하고 있다는 것을 알 수 있었다. 이 중 ‘항목11. UBT 시스템 사용법을 쉽게 배웠다’, ‘항목12. UBT 시스템을 쉽게 사용하였다’, ‘항목18. UBT 시스템을 사용하기 위해 필요한 지식을 가지고 있다’는 평균 4점 이상으로 높게 나타났는데, 이는 학생들이 UBT 시스템을 사용하는데 큰 어려움이 없었다는 것을 말해준다. 한편, 향후 UBT 시스템이 안정화되어 시간과 장소의 제약 없이 개별 환경에서 시험에 응시하는 것이 보편화되기 위해서는 UBT 시스템 접속을 위한 인터넷 등 개인 정보통신환경이 갖추어져 있는 것이 필요하다. 이와 관련하여 학생들은 개인 정보통신환경이 잘 갖추어져 있는 것으로 판단하고 있어(항목19, 2021년 평균 4.22; 2022년 평균 4.27) UBT 시스템의 활용에 긍정적인 요소라고 할 수 있다. 반면, ‘항목26. PBT 대신 UBT를 사용하고 싶다’(2021년 평균 3.30; 2022년 평균 3.39)에 대한 응답점수는 상대적으로 낮았기 때문에 아직까지는 학생들이 UBT 시스템의 도입에 대해서 적극적이라고 평가할 수는 없지만, 평균 3점 이상으로 비교적 긍정적으로 인식하고 있는 볼 수 있다.
UBT 시스템의 편리성에 관해서는 ‘항목34. 답안 수정의 편리성’과 ‘항목35. 문제 풀이 상황의 파악’의 응답점수가 평균 4점 가까이로 긍정적인 평가가 많았다. 이는 현재 사용하고 있는 UBT 시스템의 답안 수정과 문제 풀이 현황 파악과 관련된 메뉴가 사용자 입장에서 쉽게 구성되어 있기 때문인 것으로 판단된다. 반면, ‘항목29. 시스템 안정성’(2021년 평균 3.44; 2022년 평균 3.39)에 대해서는 상대적으로 낮은 응답점수를 보였다. 본 치의학전문대학원에서 현재 사용하고 있는 UBT 시스템은 Wi-Fi 내부망을 사용하여 서버와 개별 단말기 간의 통신이 이루어진다. 간혹 일부 단말기에서 통신 상태가 불안정한 경우가 발생하기도 한다. 전문기술진의 즉각적인 조치로 시험 진행에는 문제가 없었으나, 안정적인 시험 환경을 방해하는 요소로 작용할 수 있다. 이에 대한 개선을 위해 본 치의학전문대학원에서는 Wi-Fi 설비를 지속적으로 고도화하고 확충하고 있다. UBT 시스템의 안정성은 UBT 시스템의 확산을 위해 필수적으로 확보되어야 하는 요소이며 시스템 운영의 경험이 축적됨에 따라 점차 개선될 것이다.
PBT와 비교한 UBT에 대한 경험과 관련해서는 시험 중 목, 어깨 등의 피로했다는 의견이 다소 많았다(항목41 2021년 평균 3.90; 2022년 평균 3.61). 전통적인 PBT의 경우는 인쇄된 시험지의 페이지를 넘기기 위한 동작, 문제지 읽기와 답안지 작성을 위한 시선의 움직임 등 비록 제한된 범위이기는 하지만 시험 중에 목과 어깨의 움직임이 발생한다. 반면, UBT의 경우에는 태블릿 PC를 통해 모든 시험과정이 이루어지기 때문에 시선이 태블릿 PC로 제한되고 입력 또한 단순한 손가락 터치 동작으로 이루어지기 때문에 목과 어깨의 움직임이 거의 없다. 장시간 고정된 자세로 스마트 기기를 이용하는 것은 사용하는 것은 목과 어깨의 근육활성도를 증가시켜 근육의 피로와 통증을 유발한다[7]. 또한, 태블릿 PC를 사용할 때는 일반적으로 시선을 아래로 위치하기 위해서 목이 많이 굽혀지고 목 근육의 부하가 증가하기 때문에 데스크톱 컴퓨터를 사용할 때 보다 목과 어깨의 피로가 더 빠르게 나타난다[8]. 이러한 점은 태블릿 PC를 사용하는 UBT 시스템이 장시간 진행되는 시험에 활용되기에는 불리한 측면이라고 할 수 있다.
PBT와 비교한 UBT의 선호에 대한 질문에는(항목43, 2021년 평균 2.92; 2022년 평균 3.31) 전체 항목 중 가장 낮은 응답점수를 나타냈다. 이는 시스템의 불안정 요소, 자유로운 필기 기능의 부재, 장시간 사용 시 피로도 등이 종합적으로 반영된 결과로 보인다[1,3,9]. 하지만, 응답점수의 평균이 약 3점으로 부정적인 인식이 많았다고 할 수는 없으며, 오랜 기간 익숙했던 PBT와 상대적으로 비교한 결과라는 것을 감안할 필요가 있다. 또한, UBT에 대한 선호가 2021년에 비해서 2022년에 상승한 경향을 확인할 수 있었으며, 향후 UBT 시스템이 지속적으로 개선되고 학생들의 UBT에 대한 경험이 확대되면 UBT에 대한 선호도 높아질 것으로 예상한다.
2021년과 2022년의 설문결과를 비교해 보았을 때 2개 항목에서만 통계적으로 유의한 차이가 관찰되었다. ‘항목 31. 제시된 자료(그림 등)를 보기 편리했다’는 2021년 평균 4.00에서 2022년 평균 3.58로 감소했다. 원인을 파악하기 위해 2021년과 2022년에 제시된 그림 자료 등을 검토한 결과 2022년에 제시된 문항의 일부가 해상도가 낮은 그림을 포함하고 있었는데, 이는 응답점수의 감소에 영향을 준 요인으로 사료된다. 멀티미디어 자료를 사용할 수 있는 UBT의 장점을 활용하기 위해서는 양질의 자료 준비가 선행되어야 한다. 따라서 문항을 준비하는 교수진도 UBT 시스템에 대한 이해와 인식의 향상이 필요하다. 한편, ‘항목42. UBT가 PBT보다 편리하다’는 2021년 평균 3.06에서 2022년 평균 3.49로 상승하였다. 이는 학생들의 태블릿 PC 사용과 UBT 대한 경험이 확대됨에 따라 UBT 환경에 익숙해졌기 때문인 것으로 판단된다.
UBT 시스템의 특징 중 하나는 태블릿 PC라는 비교적 새로운 형태의 기기를 사용한다는 것이다. 따라서 태블릿 PC는 UBT 시스템을 구성하는 중요한 요소로 학생들의 시험 환경에 영향을 줄 수 있다. 2022년 한국갤럽연구소에서 조사한 바에 따르면 우리나라 국민의 태블릿 PC 보유율은 36%이다 10) . 태블릿 PC 보유율은 2020년 19%, 2021년 24%, 2022년 36%로 매년 급격하게 증가하는 추세이다. 그러나 아직까지 다른 정보통신기기인 스마트폰 97%, 데스크톱 컴퓨터 64%, 노트북 57% 보다는 낮은 수준이다. 따라서 일반 국민의 태블릿 PC 사용 경험은 다른 정보통신기기의 사용 경험에 비해서 부족하다고 할 수 있다.
본 연구에서는 ‘항목4. 본인 소유의 태블릿 PC가 있다’를 통해 학생들의 태블릿 PC 보유율을 조사하였다. 조사 대상 된 치의학과 학생들의 태블릿 PC 보유율은 2021년도에는 77.9%, 2022년도에는 85.9%였다. Kwon 등 (2015) [11]의 보고에 따르면 2012년도 의과대학 학생들의 태블릿 PC 보유율은 21.2%이었다. 한편, 이번 연구의 대상자들이 속한 연령대와 유사한 우리나라 19~29세 국민의 태블릿 PC 보유율은 50%이다[10]. 따라서, 학생들의 태블릿 PC 보유율은 매년 급격히 상승하고 있으며 상대적으로 매우 높은 수준임을 확인할 수 있었다. 태블릿 PC 보유율과 관련하여 흥미로운 결과는 여학생의 태블릿 PC 보유율(2021년 89.2%; 2022년 97.1%)이 남학생(2021년 69.4%; 75.0%) 보다 유의하게 높았다는 것이다. 태블릿 PC 보유율의 차이는 성별에 따른 응답 결과에도 영향을 준 것으로 보인다. 성별에 따라 유의한 차이를 보인 ‘항목 6. 평소 태블릿 PC 사용 빈도’, ‘항목17. UBT 시스템 사용을 위한 개인 장비의 구비’에서 여학생의 응답점수가 남학생보다 높았다. 반면, 여학생은 태블릿 PC 보유율이 높았음에도 불구하고 새로운 스마트 기기에 대한 정보에 대한 관심(항목23, 항목24)은 남학생 보다 낮았다. 본 연구에서는 태블릿 PC의 구입 이유나 사용 목적 등에 관해서는 조사하지 않았기 때문에 여학생들의 태블릿 PC 보유율이 높은 이유를 분석하는 데는 한계가 있었다. 여학생의 태블릿 PC 보유율이 남학생보다 높은 것은 일반적으로 여성이 남성보다 유행에 민감하고 새로운 트렌드의 수용에 적극적인 것과 관련이 있을 것으로 추측된다[12]. 향후 연구에서는 태블릿 PC에 관한 추가 설문을 통해 치의학교육 과정에서 학생들의 스마트 기기 사용 현황을 파악하고 활용 방안을 모색할 수 있을 것으로 사료된다.
태블릿 PC의 보유 여부에 따른 응답 결과의 비교에서도 태블릿 PC를 보유한 학생이 미보유 학생에 비해 태블릿 PC 사용에 더 능숙하고(항목5, 항목18) 자주 사용한다고(항목6) 응답하였다. 그러나 UBT 사용 환경에 직접적으로 영향을 줄 수도 있는 ‘항목11. UBT 시스템 사용법을 쉽게 배웠다’, ‘항목12. UBT 시스템을 쉽게 사용하였다’ 등 UBT 사용 편의성에 대한 인식에서는 차이를 보이지 않았다. 따라서 태블릿 PC 보유 여부와 사용 능숙도에 대한 자가 평가는 UBT 시스템 사용에 영향을 주지 않은 것으로 판단된다. 평소 스마트폰 사용에 익숙해진 학생들이 태블릿 PC를 보유하고 있지 않더라도 스마트폰과 유사한 입력 방식과 인터페이스를 가지고 있는 태블릿 PC를 사용하는데 큰 어려움을 느끼지 않는 것으로 보인다.
평가 도구로서 UBT 시스템이 PBT를 대체할 수 있을지를 살펴보기 위해 PBT 석차 결과와 UBT 석차 결과를 비교하였다. 상관분석 결과 PBT와 UBT의 석차 결과의 상관계수는 2021년 0.885, 2022년 0.811로 매우 높은 것으로 나타났다. UBT 결과에 대한 신뢰와 공정성(항목37, 항목38)에 대한 학생들의 인식도 평균 4점 이상으로 평가 도구로서 UBT 시스템의 신뢰성과 공정성을 확보하고 있다고 할 수 있다. 따라서 시험 결과적인 측면에서는 UBT가 PBT를 대체하는데 큰 문제가 없을 것으로 판단된다.
이번 연구를 통해 확인된 학생들의 인식을 바탕으로 UBT 시스템을 개선하고 활용을 높이기 위해서 다음과 같이 제언하고자 한다. 첫째, UBT 시스템의 안정성은 최우선으로 확보되어 한다. 현재도 UBT 시스템의 안정적인 운영을 위해 실시간 백업, 대체용 단말기의 준비 등 여러가지 안전장치가 마련되어 있지만, 시험 중 단말기의 이상이나 통신 불안정은 학생들이 시험에 집중할 수 없게 만드는 가장 큰 요인이 된다. UBT 시스템의 안정성 개선을 위해서는 UBT 시행 경험과 데이터가 누적되어야 하고, 학생들도 시스템에 대한 신뢰를 바탕으로 새로운 시스템을 발전시키는데 일조하고 있다는 긍지를 가질 필요가 있다. 둘째, UBT 사용의 편의성을 향상시키는 방안으로 터치펜의 사용이 가능한 인터페이스의 개발이 필요하다. UBT 시스템에 사용되는 태블릿 PC는 전통적인 데스크탑 컴퓨터 보다 다양한 입력 장치를 사용할 수 있다는 장점이 있다. 특히 터치펜의 사용과 자유로운 메모가 가능한 인터페이스가 적용된다면 학생들에게 PBT와 유사한 시험 환경을 제공할 수 있다. 셋째, 태블릿 PC의 장시간 사용은 목과 어깨 등의 피로를 유발한다. 목과 어깨 등의 피로와 통증은 시험에 대한 집중을 저해할 수 있다. 따라서 UBT 시스템을 사용할 경우 시험 시간에 대한 고려가 필요하다. 넷째, UBT의 장점을 극대화하기 위해서는 3차원 이미지, 동영상 등 다양한 자료의 활용이 필요하다. 멀티미디어를 활용한 UBT에 적합한 문제의 개발은 학생들의 흥미를 유발하고 학습효과를 높임으로써 UBT가 기존 평가 도구의 한계를 극복할 수 있는 수단으로서 활용될 수 있게 할 것이다.
본 연구를 통해 UBT의 도입과 사용 편의성에 관해 치의학과 학생들의 긍정적인 인식을 확인할 수 있었다. 아직까지 기존의 PBT와 비교 시 UBT에 대한 선호는 높지 않은 편이지만, UBT에 대한 경험의 확대와 시스템의 개선과 함께 향상될 것으로 보인다. 사용자 중심의 인터페이스 개선과 멀티미디어 문항의 도입 등 UBT의 장점을 활용한다면 UBT 시스템은 교육과 평가의 도구로서 치의학교육에서 유용하게 활용될 수 있을 것이다.

ACKNOWLEDGEMENTS

This study was supported by a 2-Year Research Grant of Pusan National University.

Figure 1.
Tablet PC ownership rate by sex and year.
jkda-2024-62-5-001f1.jpg
Figure 2.
Correlation between the ranking results in paper-based test (PBT) and ubiquitous-based test (UBT). The ranking results of the PBT and UBT exams show a strong correlation in both the 2021 and 2022 examinations.
jkda-2024-62-5-001f2.jpg
Table 1.
Composition of the questionnaire for assessing the dental students’ perceptions of ubiquitous-based test
Category Item number Item
Respondent characteristics 1 Gender
2 Age
3 Which program did you enroll in the dental school?
4 Do you own a tablet PC?
5 Are you proficient in using smart devices?
6 Do you frequently use a tablet PC?
Perception of introducing UBT system 7 The UBT system is useful for student assessment.
8 The UBT system efficiently assesses my academic achievement level.
9 The UBT system helps quickly determine my academic achievement level.
10 The UBT system helps accurately determine my academic achievement level.
11 I easily learned how to use the UBT system.
12 I found using the UBT system easy.
13 Interaction with the UBT system was smooth.
14 People who know me would recommend me to use the UBT system.
15 People who know me would think I should use the UBT system.
16 People who know me would prefer me to use the UBT system.
17 I have the necessary equipment (tablet PC, etc.) to use the UBT system.
18 I have the necessary knowledge to use the UBT system.
19 I have the required internet environment and personal space to use the UBT system.
20 If issues arise while using the UBT system, I can get help from others.
21 I am interested in new technologies.
22 I would like to introduce new technologies to others.
23 I actively seek information about new smart devices.
24 I am well-informed about the latest information on new technologies and smart devices.
25 If given the choice, I would choose UBT over PBT.
26 I want to use UBT instead of PBT.
27 I predict that I will use UBT instead of PBT in the future.
Convenience of the UBT system 28 The provided tablet PC for UBT was suitable.
29 The UBT system was stable during the exam.
30 The UBT interface was convenient for reading questions.
31 The UBT interface was convenient for viewing provided materials (e.g., images).
32 The UBT interface was convenient for inputting answers.
33 The UBT interface was convenient for reviewing inputted answers.
34 The UBT interface was convenient for modifying answers.
35 The UBT interface was convenient for tracking progress in problem-solving.
36 Overall, I am satisfied with the UBT system.
Reliability of the UBT 37 I trust the results of the UBT system.
System 38 The UBT system fairly assesses the competence of students.
Comparison between 39 I could concentrate on problem-solving during UBT exams.
UBT and PBT 40 My eyes became fatigued during UBT exams.
41 I experienced fatigue in my neck, shoulders, etc., during UBT exams.
42 UBT is more convenient for students compared to PBT.
43 I prefer UBT over PBT.

UBT, ubiquitous-based test; PBT, paper-based test

Table 2.
Overall survey results with mean and standard deviation (excluding items 1, 3 and 4) and comparison of the results of each item between years
Category Item number Year
Total
2021 2022
Respondent characteristics 1 Male: 57.0% Male: 50.7% Male: 54.1%
Female: 43.0% Female: 49.3% Female: 45.9%
2 BS-DDS: 26.2 ± 1.51 BS-DDS: 25.2 ± 1.25 BS-DDS: 26.0 ± 1.40
DDS: 30.6 ± 3.59 DDS: 29.4 ± 2.18 DDS: 30.1 ± 3.10
Total: 28.9 ± 3.64 Total: 27.8 ± 2.55 Total: 28.4 ± 3.23
3 BS-DDS: 39.5% BS-DDS: 43.7% BS-DDS: 41.4%
DDS: 60.5% DDS: 56.3% DDS: 58.6%
4 Yes: 77.9% Yes: 85.9% Yes: 81.5%
5 4.26 ± 0.74 4.18 ± 1.02 4.22 ± 0.87
6 3.85 ± 1.44 3.93 ± 1.40 3.89 ± 1.42
Perception of introducing UBT system 7 3.74 ± 1.12 3.90 ± 0.91 3.82 ± 1.03
8 3.53 ± 1.26 3.63 ± 1.02 3.58 ± 1.16
9 3.78 ± 1.18 3.62 ± 1.02 3.71 ± 1.11
10 3.58 ± 1.21 3.59 ± 1.09 3.59 ± 1.16
11 4.15 ± 1.06 4.24 ± 0.87 4.19 ± 0.97
12 4.15 ± 0.96 4.24 ± 0.77 4.19 ± 0.88
13 3.70 ± 1.20 3.87 ± 0.99 3.78 ± 1.11
14 3.56 ± 1.15 3.55 ± 1.05 3.55 ± 1.11
15 3.51 ± 1.08 3.56 ± 1.13 3.54 ± 1.10
16 3.55 ± 1.12 3.68 ± 1.03 3.61 ± 1.08
17 3.94 ± 1.27 4.14 ± 1.16 4.03 ± 1.22
18 4.10 ± 0.95 4.15 ± 1.05 4.13 ± 0.99
19 4.22 ± 0.86 4.27 ± 0.88 4.24 ± 0.87
20 3.58 ± 1.32 3.49 ± 1.29 3.54 ± 1.30
21 3.90 ± 1.03 3.77 ± 1.06 3.84 ± 1.04
22 3.69 ± 1.10 3.58 ± 1.13 3.64 ± 1.11
23 3.58 ± 1.24 3.46 ± 1.17 3.53 ± 1.21
24 3.57 ± 1.16 3.42 ± 1.14 3.50 ± 1.15
25 3.37 ± 1.41 3.46 ± 1.27 3.41 ± 1.35
26 3.30 ± 1.38 3.39 ± 1.28 3.34 ± 1.33
27 4.16 ± 0.97 4.15 ± 0.80 4.16 ± 0.90
Convenience of the UBT system 28 3.51 ± 1.23 3.37 ± 1.19 3.45 ± 1.21
29 3.44 ± 1.14 3.39 ± 1.15 3.42 ± 1.14
30 3.55 ± 1.22 3.73 ± 0.97 3.63 ± 1.12
31* 4.00 ± 0.97 3.58 ± 1.27 3.81 ± 1.13
32 3.67 ± 1.17 3.69 ± 1.13 3.68 ± 1.15
33 3.62 ± 1.24 3.70 ± 1.24 3.66 ± 1.23
34 3.85 ± 1.09 4.01 ± 1.05 3.92 ± 1.07
35 3.87 ± 1.06 4.00 ± 1.10 3.93 ± 1.08
36 3.60 ± 1.14 3.76 ± 0.99 3.68 ± 1.08
Reliability of the UBT System 37 4.35 ± 0.81 4.13 ± 0.77 4.25 ± 0.80
38 4.09 ± 0.85 4.10 ± 0.86 4.10 ± 0.85
Comparison between UBT and PBT 39 3.58 ± 1.24 3.52 ± 1.19 3.55 ± 1.22
40 3.72 ± 1.15 3.56 ± 1.08 3.65 ± 1.12
41 3.90 ± 1.21 3.61 ± 1.21 3.77 ± 1.21
42* 3.06 ± 1.40 3.49 ± 0.94 3.25 ± 1.23
43 2.92 ± 1.42 3.31 ± 1.13 3.10 ± 1.31

* : There were statistically significant differences between 2021 and 2022 (p<0.05).

BS-DDS, combined Bachelor's and Master's degree of dental surgery program; DDS, Master's degree of dental surgery program; UBT, ubiquitous-based test; PBT, paper-based test

Table 3.
Items with significant differences in response by respondent characteristics
Respondent characteristics Item number Values (Mean ± SD) according to the groups* Total (Mean ± SD)
Sex (male vs. female) 6 3.59 ± 1.53 vs. 4.24 ± 1.19 3.89 ± 1.42
17 3.79 ± 1.30 vs. 4.32 ± 1.06 4.03 ± 1.22
23 3.76 ± 1.13 vs. 3.25 ± 1.24 3.53 ± 1.21
24 3.73 ± 1.10 vs. 3.24 ± 1.17 3.50 ± 1.15
25 3.66 ± 1.31 vs. 3.13 ± 1.34 3.41 ± 1.35
26 3.60 ± 1.31 vs. 3.04 ± 1.31 3.34 ± 1.33
Type of DDS program (BS-DDS vs. DDS) 30 3.86 ± 0.98 vs. 3.47 ± 1.18 3.63 ± 1.11
Own tablets (yes vs. no) 5 4.32 ± 0.81 vs. 3.79 ± 1.01 4.22 ± 0.87
6 4.34 ± 0.95 vs. 1.90 ± 1.45 3.89 ± 1.42
17 4.38 ± 0.81 vs. 2.52 ± 1.56 4.03 ± 1.22
18 4.27 ± 0.86 vs. 3.48 ± 1.27 4.13 ± 0.99
20 3.66 ± 1.26 vs. 3.03 ± 1.38 3.54 ± 1.30
23 3.66 ± 1.12 vs. 2.97 ± 1.43 3.53 ± 1.21

* : There were statistically significant differences between the groups (p<0.05).

BS-DDS, combined Bachelor's and Master's degree of dental surgery program; DDS, Master's degree of dental surgery program

REFERENCES

1. Park JH, Son JY, Kim S. Experiences with establishing and implementing learning management system and computer-based test system in medical college. Korean J Med Educ 2012;24:213–222.
crossref pmid pmc
2. Kurosa M, Tonami KI, Ohara S, Umemori S, Noritake K, Sunaga M et al. Differences between computer-based and paper-based assessments of the clinical reasoning competency of dental students. J Stomatol Soc 2016;83:25–33.
3. Lim EY, Yim MK, Huh S. Smart device-based testing for medical students in Korea: satisfaction, convenience, and advantages. J Educ Eval Health Prof 2017;14:7.
crossref pmid pmc pdf
4. Im EJ, Lee WK, Lee YC, Choe BH, Chung SK, Lee TH et al. Development of computer-based test (CBT) and student recognition survey on CBT. Korean J Med Educ 2008;20:145–154.
crossref
5. Kim JH, Kim HC. Implementation of ubiquitous-based test (UBT) and students’ perceptions of UBT in dental education. J Korean Dent Assoc 2021;59:275–286.
6. Hwang M, Bajracharya L. A case study on global educational innovation using U-Learning box and ubiquitous-based test. AJMAHS 2018;8:279–288.
7. Park JH, Kang SY, Jeon HS. The effect of using smart-phones on neck and shoulder muscle activities and fatigue. Phys Ther Korea 2013;20:19–26.
crossref
8. Straker LM, Coleman J, Skoss R, Maslen BA, Burgess-Limerick R, Pollock CM. A comparison of posture and muscle activity during tablet computer, desktop computer and paper use by young children. Ergonomics 2008;51:540–55.
crossref pmid
9. Kim SG, Lee A, Hwang I. Analysis of the satisfaction with computer based test program and test environment in medical school. Korean Med Edu Review 2020;22:198–206.
crossref pdf
10. 한국갤럽연구소. 2022 한국인의 소비 여가 생활. 서울: 한국갤럽연구소; 2022.
11. Kwon OY, Rhee SY, Choi JM, Kim YS. Usefulness of ubiquitous-based testing for evaluations in medical education. Korean J Med Educ 2015;27:3–10.
crossref pmid pmc
12. Huang JH, Yang YC. Gender differences in adolescents’ online shopping motivations. Afr J Bus Manage 2010;4:849–857.


Editorial Office
Korean Dental Association, 257 Gwangnaru-ro, Seongdong-gu, Seoul 04802, Korea
Tel: +82-2-2024-9100   Fax: +82-2-468-4655/58   

Copyright © 2024 by Korean Dental Association.

Developed in M2PI