Análise da qualidade de uma prova de matemática do Exame Nacional do Ensino Médio
Resumo O Exame Nacional do Ensino Médio (Enem) é uma avaliação em larga escala que exerce forte influência nas políticas educacionais, nos currículos nos diversos níveis de ensino e também no futuro dos indivíduos que estão sendo avaliados. Esses fatos evidenciam a importância de examinar as diversa...
Saved in:
Published in: | Educação e Pesquisa Vol. 45 |
---|---|
Main Author: | |
Format: | Journal Article |
Language: | Portuguese |
Published: |
Universidade de São Paulo, Faculdade de Educação
2019
|
Subjects: | |
Online Access: | Get full text |
Tags: |
Add Tag
No Tags, Be the first to tag this record!
|
Abstract | Resumo O Exame Nacional do Ensino Médio (Enem) é uma avaliação em larga escala que exerce forte influência nas políticas educacionais, nos currículos nos diversos níveis de ensino e também no futuro dos indivíduos que estão sendo avaliados. Esses fatos evidenciam a importância de examinar as diversas variáveis envolvidas na construção, aplicação e pontuação da avaliação. Pode-se, por meio de estudos, identificar etapas do processo que não estão funcionando como esperado e também validar as etapas cujos resultados são adequados. Em ambos os casos, busca-se a melhoria dos processos a cada edição do exame. Neste estudo, foram realizadas análises dos itens da prova de matemática do Enem 2015, por meio de dois modelos da Teoria de Resposta ao Item (TRI), o logístico de três parâmetros com estudos sobre a discriminação, a dificuldade e a probabilidade de acerto casual e o modelo de resposta nominal, com estudos da dificuldade e do comportamento de cada uma das opções de resposta dos itens. Aproximadamente um terço dos itens obteve parâmetros dentro dos padrões de qualidade. Quanto à dificuldade, o item considerado o mais fácil obteve apenas 64,1% de acertos. Além disso, apenas dois itens obtiveram o parâmetro de dificuldade situado abaixo do ponto médio da escala e aproximadamente 23,4% dos participantes tiveram suas habilidades estimadas abaixo do valor correspondente ao item mais fácil na escala, indicando que essas pessoas não souberam responder a nenhum dos 45 itens. Por meio dos diversos métodos utilizados, constatou-se que a prova de matemática do Enem 2015 possui qualidade muito aquém do desejável.
Abstract The National Secondary Education exam ( Enem ) is large-scale evaluation with strong influence on educational policies, on the curricula of several levels of schooling as well as an impact on the future of the individuals taking the test. These factors show the importance of looking into a number of variants involved in the preparation, the application and the score of such evaluation. By means of studies, it is possible to identify steps in the process that are not working as expected and also to validate the steps whose results are adequate. In both cases, the intent is to improve the process in every edition of the exam. In this study, analyses were conducted for mathematics test in Enem 2015, by means of two model from the Item Response Theory (IRT), the logistics of three parameters with studies on discrimination, difficulty and probability of casual hits and the model of nominal response, with studies on the difficulty and behavior of each response option in every item. Approximately one third of the items showed parameters within the quality standards. Regarding difficulty, the easiest item had only 64.1 percent of hits. In addition, only two items had the difficulty parameters lower than the mean point of the scale and approximately 23.4 percent of participants had their skills estimated below the value corresponding to the easiest item in the scale. This indicates that these individuals could not answer any of the 45 items. By utilizing several methods, it was found that the mathematics test in Enem 2015 shows a quality level much lesser than desirable. |
---|---|
AbstractList | Resumo O Exame Nacional do Ensino Médio (Enem) é uma avaliação em larga escala que exerce forte influência nas políticas educacionais, nos currículos nos diversos níveis de ensino e também no futuro dos indivíduos que estão sendo avaliados. Esses fatos evidenciam a importância de examinar as diversas variáveis envolvidas na construção, aplicação e pontuação da avaliação. Pode-se, por meio de estudos, identificar etapas do processo que não estão funcionando como esperado e também validar as etapas cujos resultados são adequados. Em ambos os casos, busca-se a melhoria dos processos a cada edição do exame. Neste estudo, foram realizadas análises dos itens da prova de matemática do Enem 2015, por meio de dois modelos da Teoria de Resposta ao Item (TRI), o logístico de três parâmetros com estudos sobre a discriminação, a dificuldade e a probabilidade de acerto casual e o modelo de resposta nominal, com estudos da dificuldade e do comportamento de cada uma das opções de resposta dos itens. Aproximadamente um terço dos itens obteve parâmetros dentro dos padrões de qualidade. Quanto à dificuldade, o item considerado o mais fácil obteve apenas 64,1% de acertos. Além disso, apenas dois itens obtiveram o parâmetro de dificuldade situado abaixo do ponto médio da escala e aproximadamente 23,4% dos participantes tiveram suas habilidades estimadas abaixo do valor correspondente ao item mais fácil na escala, indicando que essas pessoas não souberam responder a nenhum dos 45 itens. Por meio dos diversos métodos utilizados, constatou-se que a prova de matemática do Enem 2015 possui qualidade muito aquém do desejável.
Abstract The National Secondary Education exam ( Enem ) is large-scale evaluation with strong influence on educational policies, on the curricula of several levels of schooling as well as an impact on the future of the individuals taking the test. These factors show the importance of looking into a number of variants involved in the preparation, the application and the score of such evaluation. By means of studies, it is possible to identify steps in the process that are not working as expected and also to validate the steps whose results are adequate. In both cases, the intent is to improve the process in every edition of the exam. In this study, analyses were conducted for mathematics test in Enem 2015, by means of two model from the Item Response Theory (IRT), the logistics of three parameters with studies on discrimination, difficulty and probability of casual hits and the model of nominal response, with studies on the difficulty and behavior of each response option in every item. Approximately one third of the items showed parameters within the quality standards. Regarding difficulty, the easiest item had only 64.1 percent of hits. In addition, only two items had the difficulty parameters lower than the mean point of the scale and approximately 23.4 percent of participants had their skills estimated below the value corresponding to the easiest item in the scale. This indicates that these individuals could not answer any of the 45 items. By utilizing several methods, it was found that the mathematics test in Enem 2015 shows a quality level much lesser than desirable. Resumo O Exame Nacional do Ensino Médio (Enem) é uma avaliação em larga escala que exerce forte influência nas políticas educacionais, nos currículos nos diversos níveis de ensino e também no futuro dos indivíduos que estão sendo avaliados. Esses fatos evidenciam a importância de examinar as diversas variáveis envolvidas na construção, aplicação e pontuação da avaliação. Pode-se, por meio de estudos, identificar etapas do processo que não estão funcionando como esperado e também validar as etapas cujos resultados são adequados. Em ambos os casos, busca-se a melhoria dos processos a cada edição do exame. Neste estudo, foram realizadas análises dos itens da prova de matemática do Enem 2015, por meio de dois modelos da Teoria de Resposta ao Item (TRI), o logístico de três parâmetros com estudos sobre a discriminação, a dificuldade e a probabilidade de acerto casual e o modelo de resposta nominal, com estudos da dificuldade e do comportamento de cada uma das opções de resposta dos itens. Aproximadamente um terço dos itens obteve parâmetros dentro dos padrões de qualidade. Quanto à dificuldade, o item considerado o mais fácil obteve apenas 64,1% de acertos. Além disso, apenas dois itens obtiveram o parâmetro de dificuldade situado abaixo do ponto médio da escala e aproximadamente 23,4% dos participantes tiveram suas habilidades estimadas abaixo do valor correspondente ao item mais fácil na escala, indicando que essas pessoas não souberam responder a nenhum dos 45 itens. Por meio dos diversos métodos utilizados, constatou-se que a prova de matemática do Enem 2015 possui qualidade muito aquém do desejável. |
Author | Toffoli, Sônia Ferreira Lopes |
Author_xml | – sequence: 1 givenname: Sônia Ferreira Lopes orcidid: 0000-0002-4841-4670 surname: Toffoli fullname: Toffoli, Sônia Ferreira Lopes organization: Universidade Estadual de Londrina, Brasil |
BookMark | eNpdkM1OAjEUhRuDiYi8gpkXGO3f9GdJCCoJ6gbXzZ1pa2pmpjgFo4_D0ufgxRjAsHB1z_kWX27ONRq0sXUI3RJ8RwqN7xMRUuVcME4x0bwgShKqLtDwzAd9LojMtcT0Co1TCiXGuGCYsWKIlpN2t61DcpmF7HMDdbBg--KyTQPZqotfcCgNrF2z265D1deYzb6hcdkLVCG2UB9Jm0Ibs-fdrw3xBl16qJMb_90RenuYLadP-eL1cT6dLPKKymKda8w4IwBKkJJpTHlFOJS8kFIK6pxk1CtJS0o1l6UFb5Un0mqvgEsmLGcjND95bYQPs-pCA92PiRDMEcTu3UDX_1w7U2mimFKKcu85ZRyI1LZ0qoJSCSVo7xInV9XFlDrnzz6CzWFqc5za_J-a7QH7xnM- |
Cites_doi | 10.1590/S0101-74382005000100006 10.18222/eae.v28i67.3910 10.1007/BF02291411 10.1177/01466219922031130 10.1590/S0101-74382003000300003 10.1111/jedm.12000 10.1590/S1517-9702201606135887 10.1037/0033-295X.111.4.1061 |
ContentType | Journal Article |
DBID | AAYXX CITATION DOA |
DOI | 10.1590/s1678-4634201945187128 |
DatabaseName | CrossRef Directory of Open Access Journals |
DatabaseTitle | CrossRef |
DatabaseTitleList | CrossRef |
Database_xml | – sequence: 1 dbid: DOA name: Directory of Open Access Journals url: http://www.doaj.org/ sourceTypes: Open Website |
DeliveryMethod | fulltext_linktorsrc |
Discipline | Education |
EISSN | 1678-4634 |
ExternalDocumentID | oai_doaj_org_article_c918388824ff4234a179dbe8cab86862 10_1590_s1678_4634201945187128 |
GroupedDBID | 2WC 5GY 635 AAFWJ AAYXX ADBBV AFPKN ALMA_UNASSIGNED_HOLDINGS APOWU AZFZN BCNDV C1A CITATION E3Z EBS EJD GROUPED_DOAJ IPNFZ KQ8 OK1 RDY RIG RNS RSC XSB ~OR 5VS |
ID | FETCH-LOGICAL-c275t-903431aa861b39024c14ab4577762ee732f872b22947bdafd8f17d9f8a4736d43 |
IEDL.DBID | DOA |
ISSN | 1517-9702 1678-4634 |
IngestDate | Tue Oct 22 15:12:30 EDT 2024 Thu Nov 21 23:20:16 EST 2024 |
IsDoiOpenAccess | true |
IsOpenAccess | true |
IsPeerReviewed | true |
IsScholarly | true |
Language | Portuguese |
LinkModel | DirectLink |
MergedId | FETCHMERGED-LOGICAL-c275t-903431aa861b39024c14ab4577762ee732f872b22947bdafd8f17d9f8a4736d43 |
ORCID | 0000-0002-4841-4670 |
OpenAccessLink | https://doaj.org/article/c918388824ff4234a179dbe8cab86862 |
ParticipantIDs | doaj_primary_oai_doaj_org_article_c918388824ff4234a179dbe8cab86862 crossref_primary_10_1590_s1678_4634201945187128 |
PublicationCentury | 2000 |
PublicationDate | 2019-00-00 |
PublicationDateYYYYMMDD | 2019-01-01 |
PublicationDate_xml | – year: 2019 text: 2019-00-00 |
PublicationDecade | 2010 |
PublicationTitle | Educação e Pesquisa |
PublicationYear | 2019 |
Publisher | Universidade de São Paulo, Faculdade de Educação |
Publisher_xml | – name: Universidade de São Paulo, Faculdade de Educação |
References | ANDRADE Dalton Francisco (ref3) 2000 SOARES Tufi Machado (ref22) 2003; 23 VEY Ivan Henrique (ref28) 2011 LORD Frederic M (ref15) 1980 THISSEN David (ref24) 1991 (ref1) 2014 (ref9) 2017 TOFFOLI Sonia Ferreira Lopes (ref26) 2016; 42 ANDRADE Josemberg Moura de (ref4) 2010; 9 ZIMOWSKI Michelle F. (ref30) 2002 BOCK R. Darrel. (ref5) 1972; 37 BORSBOOM Denny (ref6) 2004; 111 SOARES Tufi Machado (ref23) 2005; 25 KELLEY Truman Lee (ref14) 1927 KANE Michael T (ref13) 2013; 50 MESSICK Samuel (ref17) 1989 MOREIRA JUNIOR Fernando de Jesus (ref19) 2011 McNAMARA Tim (ref16) 2000 (ref7) 1999 DE AYALA Rafael Jaime (ref12) 1999; 23 TRAVITZKI Rodrigo (ref27) 2017; 28 (ref10) 2017 PASQUALI Luiz (ref20) 2010 SCARAMUCCI Matilde Virginia Ricardi (ref21) 2011; 2 ANDRADE Dalton Francisco (ref2) 2005 VIEIRA Nara Núbia (ref29) 2017; 5 DE AYALA Rafael Jaime (ref11) 2009 (ref8) 2011 TOFFOLI Sonia Ferreira Lopes (ref25) 2015 MESSICK Samuel (ref18) 1996 |
References_xml | – year: 2014 ident: ref1 – volume: 2 start-page: 103 year: 2011 ident: ref21 article-title: Validade e consequências sociais das avaliações em contexto de ensino de línguas publication-title: Lingvarvm Arena contributor: fullname: SCARAMUCCI Matilde Virginia Ricardi – volume: 25 start-page: 83 issue: 1 year: 2005 ident: ref23 article-title: Utilização da Teoria da Resposta ao Item na produção de indicadores socioeconômicos publication-title: Pesquisa Operacional doi: 10.1590/S0101-74382005000100006 contributor: fullname: SOARES Tufi Machado – start-page: 1 volume-title: Validity of performance assessments year: 1996 ident: ref18 contributor: fullname: MESSICK Samuel – volume: 28 start-page: 256 issue: 67 year: 2017 ident: ref27 article-title: Avaliação da qualidade do Enem 2009 e 2011 com técnicas psicométricas publication-title: Estudos em Avaliação Educacional doi: 10.18222/eae.v28i67.3910 contributor: fullname: TRAVITZKI Rodrigo – year: 1991 ident: ref24 contributor: fullname: THISSEN David – volume: 37 start-page: 29 issue: 1 year: 1972 ident: ref5 article-title: Estimating item parameters and latent ability when responses are scored in two or more nominal categories publication-title: Psychometrika doi: 10.1007/BF02291411 contributor: fullname: BOCK R. Darrel. – year: 2011 ident: ref8 – year: 2009 ident: ref11 contributor: fullname: DE AYALA Rafael Jaime – year: 2011 ident: ref19 contributor: fullname: MOREIRA JUNIOR Fernando de Jesus – start-page: 13 volume-title: Validity year: 1989 ident: ref17 contributor: fullname: MESSICK Samuel – year: 2002 ident: ref30 contributor: fullname: ZIMOWSKI Michelle F. – start-page: 165 volume-title: Testes referentes a construtos: teoria e modelos de construção year: 2010 ident: ref20 contributor: fullname: PASQUALI Luiz – year: 1980 ident: ref15 contributor: fullname: LORD Frederic M – year: 1999 ident: ref7 – volume: 23 start-page: 3 issue: 1 year: 1999 ident: ref12 article-title: Item parameter recovery for the nominal response model publication-title: Applied Psychological Measurement doi: 10.1177/01466219922031130 contributor: fullname: DE AYALA Rafael Jaime – year: 1927 ident: ref14 contributor: fullname: KELLEY Truman Lee – year: 2000 ident: ref3 contributor: fullname: ANDRADE Dalton Francisco – volume: 23 start-page: 421 issue: 3 year: 2003 ident: ref22 article-title: Construção de um modelo de regressão hierárquico para os dados do SIMAVE-2000 publication-title: Pesquisa Operacional doi: 10.1590/S0101-74382003000300003 contributor: fullname: SOARES Tufi Machado – volume: 50 start-page: 1 issue: 1 year: 2013 ident: ref13 article-title: Validating the interpretations and uses of test scores publication-title: Journal of Educational Measurement doi: 10.1111/jedm.12000 contributor: fullname: KANE Michael T – volume: 42 start-page: 343 issue: 2 year: 2016 ident: ref26 article-title: Avaliação com itens abertos: validade, confiabilidade, comparabilidade e justiça publication-title: Educação e Pesquisa doi: 10.1590/S1517-9702201606135887 contributor: fullname: TOFFOLI Sonia Ferreira Lopes – year: 2011 ident: ref28 contributor: fullname: VEY Ivan Henrique – year: 2000 ident: ref16 contributor: fullname: McNAMARA Tim – year: 2015 ident: ref25 contributor: fullname: TOFFOLI Sonia Ferreira Lopes – year: 2017 ident: ref10 – start-page: 107 volume-title: Aspectos quantitativos da análise dos itens da prova do Enem year: 2005 ident: ref2 contributor: fullname: ANDRADE Dalton Francisco – volume: 9 start-page: 421 issue: 3 year: 2010 ident: ref4 article-title: O uso da Teoria de Resposta ao Item em avaliações educacionais: diretrizes para pesquisadores publication-title: Avaliação Psicológica contributor: fullname: ANDRADE Josemberg Moura de – volume: 111 start-page: 1061 issue: 4 year: 2004 ident: ref6 article-title: The concept of validity publication-title: Psychological Review doi: 10.1037/0033-295X.111.4.1061 contributor: fullname: BORSBOOM Denny – year: 2017 ident: ref9 – volume: 5 start-page: 29 issue: 11 year: 2017 ident: ref29 article-title: As provas das quatro áreas do Enem vistas como uma prova única na ótica de modelos da teoria da resposta ao item uni e multidimensional publication-title: Boletim na Medida contributor: fullname: VIEIRA Nara Núbia |
SSID | ssib000530335 ssj0027348 ssib004301339 |
Score | 2.0392408 |
Snippet | Resumo O Exame Nacional do Ensino Médio (Enem) é uma avaliação em larga escala que exerce forte influência nas políticas educacionais, nos currículos nos... |
SourceID | doaj crossref |
SourceType | Open Website Aggregation Database |
SubjectTerms | Item Large-scale evaluation National Secondary Education Exam (Enem) Response Theory (IRT) Validity |
Title | Análise da qualidade de uma prova de matemática do Exame Nacional do Ensino Médio |
URI | https://doaj.org/article/c918388824ff4234a179dbe8cab86862 |
Volume | 45 |
hasFullText | 1 |
inHoldings | 1 |
isFullTextHit | |
isPrint | |
link | http://sdu.summon.serialssolutions.com/2.0.0/link/0/eLvHCXMwrV09T8MwELWAiQWBAFG-5IE1ahI7sT0WaNWFLhSJLTrHtlSJJoi0En-nI7-jf4yzE6qIhYXRVhRZz5e79065O0LuQNqYCTCR1iAiblGnqJCJ00h_jRb4ffl65-mzmL3Kx7Fvk7Mb9eX_CWvbA7fADUuFRocyLeXOYejngBZktJUlaOmrG4L3jfOemGqJCLrmHhHgaMcsjBVL0DtHPGe8KxfOVDxsdpsYDhXPElQRfjx7L1L1GvqHyDM5JkcdZaSj9qgnZM9Wp2Q-qrabt0VjqQEaKiMNGFxYul4C9YkC8Avko3a53fiENTU1HX_C0tIZlCEBGHaqZlHV9Gn7ZRb1GXmZjOcP06ibkBCVqchWCCtDAgAg80QzheG2TDhongmBPs5awVInRarTVHGhDTgjXSKMchK4YLnh7JwcVHVlLwh1JQplA5IrByhJYi0kMicHLANlS-0GZPiDRvHeNsIovIBA_IqAX_EbvwG596DtnvaNrMMGXm_RXW_x1_Ve_sdLrsihP1ibObkmB6uPtb0h-41Z3waz-QaFtsBV |
link.rule.ids | 315,782,786,866,2106,4028,27932,27933,27934 |
linkProvider | Directory of Open Access Journals |
openUrl | ctx_ver=Z39.88-2004&ctx_enc=info%3Aofi%2Fenc%3AUTF-8&rfr_id=info%3Asid%2Fsummon.serialssolutions.com&rft_val_fmt=info%3Aofi%2Ffmt%3Akev%3Amtx%3Ajournal&rft.genre=article&rft.atitle=An%C3%A1lise+da+qualidade+de+uma+prova+de+matem%C3%A1tica+do+Exame+Nacional+do+Ensino+M%C3%A9dio&rft.jtitle=Educa%C3%A7%C3%A3o+e+pesquisa&rft.au=Toffoli%2C+S%C3%B4nia+Ferreira+Lopes&rft.date=2019&rft.issn=1517-9702&rft.eissn=1678-4634&rft.volume=45&rft_id=info:doi/10.1590%2Fs1678-4634201945187128&rft.externalDBID=n%2Fa&rft.externalDocID=10_1590_s1678_4634201945187128 |
thumbnail_l | http://covers-cdn.summon.serialssolutions.com/index.aspx?isbn=/lc.gif&issn=1517-9702&client=summon |
thumbnail_m | http://covers-cdn.summon.serialssolutions.com/index.aspx?isbn=/mc.gif&issn=1517-9702&client=summon |
thumbnail_s | http://covers-cdn.summon.serialssolutions.com/index.aspx?isbn=/sc.gif&issn=1517-9702&client=summon |