Análise da qualidade de uma prova de matemática do Exame Nacional do Ensino Médio

Resumo O Exame Nacional do Ensino Médio (Enem) é uma avaliação em larga escala que exerce forte influência nas políticas educacionais, nos currículos nos diversos níveis de ensino e também no futuro dos indivíduos que estão sendo avaliados. Esses fatos evidenciam a importância de examinar as diversa...

Full description

Saved in:
Bibliographic Details
Published in:Educação e Pesquisa Vol. 45
Main Author: Toffoli, Sônia Ferreira Lopes
Format: Journal Article
Language:Portuguese
Published: Universidade de São Paulo, Faculdade de Educação 2019
Subjects:
Online Access:Get full text
Tags: Add Tag
No Tags, Be the first to tag this record!
Abstract Resumo O Exame Nacional do Ensino Médio (Enem) é uma avaliação em larga escala que exerce forte influência nas políticas educacionais, nos currículos nos diversos níveis de ensino e também no futuro dos indivíduos que estão sendo avaliados. Esses fatos evidenciam a importância de examinar as diversas variáveis envolvidas na construção, aplicação e pontuação da avaliação. Pode-se, por meio de estudos, identificar etapas do processo que não estão funcionando como esperado e também validar as etapas cujos resultados são adequados. Em ambos os casos, busca-se a melhoria dos processos a cada edição do exame. Neste estudo, foram realizadas análises dos itens da prova de matemática do Enem 2015, por meio de dois modelos da Teoria de Resposta ao Item (TRI), o logístico de três parâmetros com estudos sobre a discriminação, a dificuldade e a probabilidade de acerto casual e o modelo de resposta nominal, com estudos da dificuldade e do comportamento de cada uma das opções de resposta dos itens. Aproximadamente um terço dos itens obteve parâmetros dentro dos padrões de qualidade. Quanto à dificuldade, o item considerado o mais fácil obteve apenas 64,1% de acertos. Além disso, apenas dois itens obtiveram o parâmetro de dificuldade situado abaixo do ponto médio da escala e aproximadamente 23,4% dos participantes tiveram suas habilidades estimadas abaixo do valor correspondente ao item mais fácil na escala, indicando que essas pessoas não souberam responder a nenhum dos 45 itens. Por meio dos diversos métodos utilizados, constatou-se que a prova de matemática do Enem 2015 possui qualidade muito aquém do desejável. Abstract The National Secondary Education exam ( Enem ) is large-scale evaluation with strong influence on educational policies, on the curricula of several levels of schooling as well as an impact on the future of the individuals taking the test. These factors show the importance of looking into a number of variants involved in the preparation, the application and the score of such evaluation. By means of studies, it is possible to identify steps in the process that are not working as expected and also to validate the steps whose results are adequate. In both cases, the intent is to improve the process in every edition of the exam. In this study, analyses were conducted for mathematics test in Enem 2015, by means of two model from the Item Response Theory (IRT), the logistics of three parameters with studies on discrimination, difficulty and probability of casual hits and the model of nominal response, with studies on the difficulty and behavior of each response option in every item. Approximately one third of the items showed parameters within the quality standards. Regarding difficulty, the easiest item had only 64.1 percent of hits. In addition, only two items had the difficulty parameters lower than the mean point of the scale and approximately 23.4 percent of participants had their skills estimated below the value corresponding to the easiest item in the scale. This indicates that these individuals could not answer any of the 45 items. By utilizing several methods, it was found that the mathematics test in Enem 2015 shows a quality level much lesser than desirable.
AbstractList Resumo O Exame Nacional do Ensino Médio (Enem) é uma avaliação em larga escala que exerce forte influência nas políticas educacionais, nos currículos nos diversos níveis de ensino e também no futuro dos indivíduos que estão sendo avaliados. Esses fatos evidenciam a importância de examinar as diversas variáveis envolvidas na construção, aplicação e pontuação da avaliação. Pode-se, por meio de estudos, identificar etapas do processo que não estão funcionando como esperado e também validar as etapas cujos resultados são adequados. Em ambos os casos, busca-se a melhoria dos processos a cada edição do exame. Neste estudo, foram realizadas análises dos itens da prova de matemática do Enem 2015, por meio de dois modelos da Teoria de Resposta ao Item (TRI), o logístico de três parâmetros com estudos sobre a discriminação, a dificuldade e a probabilidade de acerto casual e o modelo de resposta nominal, com estudos da dificuldade e do comportamento de cada uma das opções de resposta dos itens. Aproximadamente um terço dos itens obteve parâmetros dentro dos padrões de qualidade. Quanto à dificuldade, o item considerado o mais fácil obteve apenas 64,1% de acertos. Além disso, apenas dois itens obtiveram o parâmetro de dificuldade situado abaixo do ponto médio da escala e aproximadamente 23,4% dos participantes tiveram suas habilidades estimadas abaixo do valor correspondente ao item mais fácil na escala, indicando que essas pessoas não souberam responder a nenhum dos 45 itens. Por meio dos diversos métodos utilizados, constatou-se que a prova de matemática do Enem 2015 possui qualidade muito aquém do desejável. Abstract The National Secondary Education exam ( Enem ) is large-scale evaluation with strong influence on educational policies, on the curricula of several levels of schooling as well as an impact on the future of the individuals taking the test. These factors show the importance of looking into a number of variants involved in the preparation, the application and the score of such evaluation. By means of studies, it is possible to identify steps in the process that are not working as expected and also to validate the steps whose results are adequate. In both cases, the intent is to improve the process in every edition of the exam. In this study, analyses were conducted for mathematics test in Enem 2015, by means of two model from the Item Response Theory (IRT), the logistics of three parameters with studies on discrimination, difficulty and probability of casual hits and the model of nominal response, with studies on the difficulty and behavior of each response option in every item. Approximately one third of the items showed parameters within the quality standards. Regarding difficulty, the easiest item had only 64.1 percent of hits. In addition, only two items had the difficulty parameters lower than the mean point of the scale and approximately 23.4 percent of participants had their skills estimated below the value corresponding to the easiest item in the scale. This indicates that these individuals could not answer any of the 45 items. By utilizing several methods, it was found that the mathematics test in Enem 2015 shows a quality level much lesser than desirable.
Resumo O Exame Nacional do Ensino Médio (Enem) é uma avaliação em larga escala que exerce forte influência nas políticas educacionais, nos currículos nos diversos níveis de ensino e também no futuro dos indivíduos que estão sendo avaliados. Esses fatos evidenciam a importância de examinar as diversas variáveis envolvidas na construção, aplicação e pontuação da avaliação. Pode-se, por meio de estudos, identificar etapas do processo que não estão funcionando como esperado e também validar as etapas cujos resultados são adequados. Em ambos os casos, busca-se a melhoria dos processos a cada edição do exame. Neste estudo, foram realizadas análises dos itens da prova de matemática do Enem 2015, por meio de dois modelos da Teoria de Resposta ao Item (TRI), o logístico de três parâmetros com estudos sobre a discriminação, a dificuldade e a probabilidade de acerto casual e o modelo de resposta nominal, com estudos da dificuldade e do comportamento de cada uma das opções de resposta dos itens. Aproximadamente um terço dos itens obteve parâmetros dentro dos padrões de qualidade. Quanto à dificuldade, o item considerado o mais fácil obteve apenas 64,1% de acertos. Além disso, apenas dois itens obtiveram o parâmetro de dificuldade situado abaixo do ponto médio da escala e aproximadamente 23,4% dos participantes tiveram suas habilidades estimadas abaixo do valor correspondente ao item mais fácil na escala, indicando que essas pessoas não souberam responder a nenhum dos 45 itens. Por meio dos diversos métodos utilizados, constatou-se que a prova de matemática do Enem 2015 possui qualidade muito aquém do desejável.
Author Toffoli, Sônia Ferreira Lopes
Author_xml – sequence: 1
  givenname: Sônia Ferreira Lopes
  orcidid: 0000-0002-4841-4670
  surname: Toffoli
  fullname: Toffoli, Sônia Ferreira Lopes
  organization: Universidade Estadual de Londrina, Brasil
BookMark eNpdkM1OAjEUhRuDiYi8gpkXGO3f9GdJCCoJ6gbXzZ1pa2pmpjgFo4_D0ufgxRjAsHB1z_kWX27ONRq0sXUI3RJ8RwqN7xMRUuVcME4x0bwgShKqLtDwzAd9LojMtcT0Co1TCiXGuGCYsWKIlpN2t61DcpmF7HMDdbBg--KyTQPZqotfcCgNrF2z265D1deYzb6hcdkLVCG2UB9Jm0Ibs-fdrw3xBl16qJMb_90RenuYLadP-eL1cT6dLPKKymKda8w4IwBKkJJpTHlFOJS8kFIK6pxk1CtJS0o1l6UFb5Un0mqvgEsmLGcjND95bYQPs-pCA92PiRDMEcTu3UDX_1w7U2mimFKKcu85ZRyI1LZ0qoJSCSVo7xInV9XFlDrnzz6CzWFqc5za_J-a7QH7xnM-
Cites_doi 10.1590/S0101-74382005000100006
10.18222/eae.v28i67.3910
10.1007/BF02291411
10.1177/01466219922031130
10.1590/S0101-74382003000300003
10.1111/jedm.12000
10.1590/S1517-9702201606135887
10.1037/0033-295X.111.4.1061
ContentType Journal Article
DBID AAYXX
CITATION
DOA
DOI 10.1590/s1678-4634201945187128
DatabaseName CrossRef
Directory of Open Access Journals
DatabaseTitle CrossRef
DatabaseTitleList CrossRef

Database_xml – sequence: 1
  dbid: DOA
  name: Directory of Open Access Journals
  url: http://www.doaj.org/
  sourceTypes: Open Website
DeliveryMethod fulltext_linktorsrc
Discipline Education
EISSN 1678-4634
ExternalDocumentID oai_doaj_org_article_c918388824ff4234a179dbe8cab86862
10_1590_s1678_4634201945187128
GroupedDBID 2WC
5GY
635
AAFWJ
AAYXX
ADBBV
AFPKN
ALMA_UNASSIGNED_HOLDINGS
APOWU
AZFZN
BCNDV
C1A
CITATION
E3Z
EBS
EJD
GROUPED_DOAJ
IPNFZ
KQ8
OK1
RDY
RIG
RNS
RSC
XSB
~OR
5VS
ID FETCH-LOGICAL-c275t-903431aa861b39024c14ab4577762ee732f872b22947bdafd8f17d9f8a4736d43
IEDL.DBID DOA
ISSN 1517-9702
1678-4634
IngestDate Tue Oct 22 15:12:30 EDT 2024
Thu Nov 21 23:20:16 EST 2024
IsDoiOpenAccess true
IsOpenAccess true
IsPeerReviewed true
IsScholarly true
Language Portuguese
LinkModel DirectLink
MergedId FETCHMERGED-LOGICAL-c275t-903431aa861b39024c14ab4577762ee732f872b22947bdafd8f17d9f8a4736d43
ORCID 0000-0002-4841-4670
OpenAccessLink https://doaj.org/article/c918388824ff4234a179dbe8cab86862
ParticipantIDs doaj_primary_oai_doaj_org_article_c918388824ff4234a179dbe8cab86862
crossref_primary_10_1590_s1678_4634201945187128
PublicationCentury 2000
PublicationDate 2019-00-00
PublicationDateYYYYMMDD 2019-01-01
PublicationDate_xml – year: 2019
  text: 2019-00-00
PublicationDecade 2010
PublicationTitle Educação e Pesquisa
PublicationYear 2019
Publisher Universidade de São Paulo, Faculdade de Educação
Publisher_xml – name: Universidade de São Paulo, Faculdade de Educação
References ANDRADE Dalton Francisco (ref3) 2000
SOARES Tufi Machado (ref22) 2003; 23
VEY Ivan Henrique (ref28) 2011
LORD Frederic M (ref15) 1980
THISSEN David (ref24) 1991
(ref1) 2014
(ref9) 2017
TOFFOLI Sonia Ferreira Lopes (ref26) 2016; 42
ANDRADE Josemberg Moura de (ref4) 2010; 9
ZIMOWSKI Michelle F. (ref30) 2002
BOCK R. Darrel. (ref5) 1972; 37
BORSBOOM Denny (ref6) 2004; 111
SOARES Tufi Machado (ref23) 2005; 25
KELLEY Truman Lee (ref14) 1927
KANE Michael T (ref13) 2013; 50
MESSICK Samuel (ref17) 1989
MOREIRA JUNIOR Fernando de Jesus (ref19) 2011
McNAMARA Tim (ref16) 2000
(ref7) 1999
DE AYALA Rafael Jaime (ref12) 1999; 23
TRAVITZKI Rodrigo (ref27) 2017; 28
(ref10) 2017
PASQUALI Luiz (ref20) 2010
SCARAMUCCI Matilde Virginia Ricardi (ref21) 2011; 2
ANDRADE Dalton Francisco (ref2) 2005
VIEIRA Nara Núbia (ref29) 2017; 5
DE AYALA Rafael Jaime (ref11) 2009
(ref8) 2011
TOFFOLI Sonia Ferreira Lopes (ref25) 2015
MESSICK Samuel (ref18) 1996
References_xml – year: 2014
  ident: ref1
– volume: 2
  start-page: 103
  year: 2011
  ident: ref21
  article-title: Validade e consequências sociais das avaliações em contexto de ensino de línguas
  publication-title: Lingvarvm Arena
  contributor:
    fullname: SCARAMUCCI Matilde Virginia Ricardi
– volume: 25
  start-page: 83
  issue: 1
  year: 2005
  ident: ref23
  article-title: Utilização da Teoria da Resposta ao Item na produção de indicadores socioeconômicos
  publication-title: Pesquisa Operacional
  doi: 10.1590/S0101-74382005000100006
  contributor:
    fullname: SOARES Tufi Machado
– start-page: 1
  volume-title: Validity of performance assessments
  year: 1996
  ident: ref18
  contributor:
    fullname: MESSICK Samuel
– volume: 28
  start-page: 256
  issue: 67
  year: 2017
  ident: ref27
  article-title: Avaliação da qualidade do Enem 2009 e 2011 com técnicas psicométricas
  publication-title: Estudos em Avaliação Educacional
  doi: 10.18222/eae.v28i67.3910
  contributor:
    fullname: TRAVITZKI Rodrigo
– year: 1991
  ident: ref24
  contributor:
    fullname: THISSEN David
– volume: 37
  start-page: 29
  issue: 1
  year: 1972
  ident: ref5
  article-title: Estimating item parameters and latent ability when responses are scored in two or more nominal categories
  publication-title: Psychometrika
  doi: 10.1007/BF02291411
  contributor:
    fullname: BOCK R. Darrel.
– year: 2011
  ident: ref8
– year: 2009
  ident: ref11
  contributor:
    fullname: DE AYALA Rafael Jaime
– year: 2011
  ident: ref19
  contributor:
    fullname: MOREIRA JUNIOR Fernando de Jesus
– start-page: 13
  volume-title: Validity
  year: 1989
  ident: ref17
  contributor:
    fullname: MESSICK Samuel
– year: 2002
  ident: ref30
  contributor:
    fullname: ZIMOWSKI Michelle F.
– start-page: 165
  volume-title: Testes referentes a construtos: teoria e modelos de construção
  year: 2010
  ident: ref20
  contributor:
    fullname: PASQUALI Luiz
– year: 1980
  ident: ref15
  contributor:
    fullname: LORD Frederic M
– year: 1999
  ident: ref7
– volume: 23
  start-page: 3
  issue: 1
  year: 1999
  ident: ref12
  article-title: Item parameter recovery for the nominal response model
  publication-title: Applied Psychological Measurement
  doi: 10.1177/01466219922031130
  contributor:
    fullname: DE AYALA Rafael Jaime
– year: 1927
  ident: ref14
  contributor:
    fullname: KELLEY Truman Lee
– year: 2000
  ident: ref3
  contributor:
    fullname: ANDRADE Dalton Francisco
– volume: 23
  start-page: 421
  issue: 3
  year: 2003
  ident: ref22
  article-title: Construção de um modelo de regressão hierárquico para os dados do SIMAVE-2000
  publication-title: Pesquisa Operacional
  doi: 10.1590/S0101-74382003000300003
  contributor:
    fullname: SOARES Tufi Machado
– volume: 50
  start-page: 1
  issue: 1
  year: 2013
  ident: ref13
  article-title: Validating the interpretations and uses of test scores
  publication-title: Journal of Educational Measurement
  doi: 10.1111/jedm.12000
  contributor:
    fullname: KANE Michael T
– volume: 42
  start-page: 343
  issue: 2
  year: 2016
  ident: ref26
  article-title: Avaliação com itens abertos: validade, confiabilidade, comparabilidade e justiça
  publication-title: Educação e Pesquisa
  doi: 10.1590/S1517-9702201606135887
  contributor:
    fullname: TOFFOLI Sonia Ferreira Lopes
– year: 2011
  ident: ref28
  contributor:
    fullname: VEY Ivan Henrique
– year: 2000
  ident: ref16
  contributor:
    fullname: McNAMARA Tim
– year: 2015
  ident: ref25
  contributor:
    fullname: TOFFOLI Sonia Ferreira Lopes
– year: 2017
  ident: ref10
– start-page: 107
  volume-title: Aspectos quantitativos da análise dos itens da prova do Enem
  year: 2005
  ident: ref2
  contributor:
    fullname: ANDRADE Dalton Francisco
– volume: 9
  start-page: 421
  issue: 3
  year: 2010
  ident: ref4
  article-title: O uso da Teoria de Resposta ao Item em avaliações educacionais: diretrizes para pesquisadores
  publication-title: Avaliação Psicológica
  contributor:
    fullname: ANDRADE Josemberg Moura de
– volume: 111
  start-page: 1061
  issue: 4
  year: 2004
  ident: ref6
  article-title: The concept of validity
  publication-title: Psychological Review
  doi: 10.1037/0033-295X.111.4.1061
  contributor:
    fullname: BORSBOOM Denny
– year: 2017
  ident: ref9
– volume: 5
  start-page: 29
  issue: 11
  year: 2017
  ident: ref29
  article-title: As provas das quatro áreas do Enem vistas como uma prova única na ótica de modelos da teoria da resposta ao item uni e multidimensional
  publication-title: Boletim na Medida
  contributor:
    fullname: VIEIRA Nara Núbia
SSID ssib000530335
ssj0027348
ssib004301339
Score 2.0392408
Snippet Resumo O Exame Nacional do Ensino Médio (Enem) é uma avaliação em larga escala que exerce forte influência nas políticas educacionais, nos currículos nos...
SourceID doaj
crossref
SourceType Open Website
Aggregation Database
SubjectTerms Item
Large-scale evaluation
National Secondary Education Exam (Enem)
Response Theory (IRT)
Validity
Title Análise da qualidade de uma prova de matemática do Exame Nacional do Ensino Médio
URI https://doaj.org/article/c918388824ff4234a179dbe8cab86862
Volume 45
hasFullText 1
inHoldings 1
isFullTextHit
isPrint
link http://sdu.summon.serialssolutions.com/2.0.0/link/0/eLvHCXMwrV09T8MwELWAiQWBAFG-5IE1ahI7sT0WaNWFLhSJLTrHtlSJJoi0En-nI7-jf4yzE6qIhYXRVhRZz5e79065O0LuQNqYCTCR1iAiblGnqJCJ00h_jRb4ffl65-mzmL3Kx7Fvk7Mb9eX_CWvbA7fADUuFRocyLeXOYejngBZktJUlaOmrG4L3jfOemGqJCLrmHhHgaMcsjBVL0DtHPGe8KxfOVDxsdpsYDhXPElQRfjx7L1L1GvqHyDM5JkcdZaSj9qgnZM9Wp2Q-qrabt0VjqQEaKiMNGFxYul4C9YkC8Avko3a53fiENTU1HX_C0tIZlCEBGHaqZlHV9Gn7ZRb1GXmZjOcP06ibkBCVqchWCCtDAgAg80QzheG2TDhongmBPs5awVInRarTVHGhDTgjXSKMchK4YLnh7JwcVHVlLwh1JQplA5IrByhJYi0kMicHLANlS-0GZPiDRvHeNsIovIBA_IqAX_EbvwG596DtnvaNrMMGXm_RXW_x1_Ve_sdLrsihP1ibObkmB6uPtb0h-41Z3waz-QaFtsBV
link.rule.ids 315,782,786,866,2106,4028,27932,27933,27934
linkProvider Directory of Open Access Journals
openUrl ctx_ver=Z39.88-2004&ctx_enc=info%3Aofi%2Fenc%3AUTF-8&rfr_id=info%3Asid%2Fsummon.serialssolutions.com&rft_val_fmt=info%3Aofi%2Ffmt%3Akev%3Amtx%3Ajournal&rft.genre=article&rft.atitle=An%C3%A1lise+da+qualidade+de+uma+prova+de+matem%C3%A1tica+do+Exame+Nacional+do+Ensino+M%C3%A9dio&rft.jtitle=Educa%C3%A7%C3%A3o+e+pesquisa&rft.au=Toffoli%2C+S%C3%B4nia+Ferreira+Lopes&rft.date=2019&rft.issn=1517-9702&rft.eissn=1678-4634&rft.volume=45&rft_id=info:doi/10.1590%2Fs1678-4634201945187128&rft.externalDBID=n%2Fa&rft.externalDocID=10_1590_s1678_4634201945187128
thumbnail_l http://covers-cdn.summon.serialssolutions.com/index.aspx?isbn=/lc.gif&issn=1517-9702&client=summon
thumbnail_m http://covers-cdn.summon.serialssolutions.com/index.aspx?isbn=/mc.gif&issn=1517-9702&client=summon
thumbnail_s http://covers-cdn.summon.serialssolutions.com/index.aspx?isbn=/sc.gif&issn=1517-9702&client=summon